(来源:红星新闻)
近日,一位母亲向红星新闻记者反映,她6岁的儿子,常常趁她不注意,用家人的手机,看一些让人毛骨悚然的视频:“一些拟人化的玩偶,被喂粪、肢解、扔进火锅,甚至上演玩偶妈妈食子的情节。”
记者调查发现,这类视频均为AI生成,通常被标注为“略向”(注:“略”同“虐”),主要围绕“anon犬、soyo狸、天素罗”三个拟人化角色,大量流传于抖音和哔哩哔哩两大视频平台,小红书、百度等平台也零星出现。多年来,邪典视频对少年儿童的侵扰,已被各界高度关注,但为何这些视频依然“花样翻新、屡禁不绝”?
单条视频观看量达141万
11月底,红星新闻接到网友来信,称在网络视频平台上出现大量以动画人物形象为原型的玩偶AI视频与图片,部分内容涉嫌呈现血腥暴力、低俗辱虐、恐怖等不当要素,并通过玩偶外观包装提升点击,且评论区出现“幼儿园儿童沉迷观看”等反馈。
根据线索,记者在哔哩哔哩和抖音两大视频平台确实发现大量相关视频,这类视频均为AI生成,有着类似定格动画的镜头风格,内容围绕三个拟人化的虚拟角色“anon犬、soyo狸、天素罗”,视频标题常标注为“略向”(注:即“虐向”)。据悉,“虐向”是中文网络用语,尤其在二次元、同人创作、短视频、AI生成内容等圈层中常见,用来描述以“施虐—受虐”关系为核心、带有痛苦、折磨、压迫、控制等元素的内容风格或情节走向。
▲“虐向”视频在哔哩哔哩,一条名为“anon犬的观察实验(略向,慎入)”的视频热度颇高,截至12月2日,其播放量已达141万。视频内容显示,拟人化的anon犬和soyo狸沦为“实验对象”,遭受各种虐待情节。据不完全统计,仅在哔哩哔哩,此类视频就有至少数百条,在抖音平台也有上百条,小红书、百度等平台亦有零星出现。
在这些视频中,三个虚拟角色经历着各式各样的虐待。其评论区也时常出现“还不够虐”、“好想虐杀它们”等言论。记者还注意到,在哔哩哔哩的多个“虐向”视频播放页面中,出现了AI产品的商业广告。
通过评论区,记者联系到网友邓女士(化姓)。她讲述了自己6岁的儿子趁其不备,用家人的手机观看一些令人毛骨悚然的视频:“一些拟人化的玩偶,被喂粪、扔进火锅,甚至上演玩偶妈妈食子的情节。”邓女士表示,她曾在数个视频下留言批评制作者,但留言几乎都被删除。“我也不想让孩子完全不用手机,但这些内容又防不住。”这让她感到十分无奈和两难。
调查过程中,记者还体验到平台算法的推送机制:在观看多个“虐向”视频后,哔哩哔哩随即向记者账号的首页推荐了更多同类视频。若要完全屏蔽这类内容,在哔哩哔哩上需开启软件内的“未成年人模式”,在抖音上也可采用类似方法。
作者称已在视频标题中提醒“略向慎入”
记者联系到其中三位视频制作者小付、小鱼、小灵(均为化名),他们均在今年10月中下旬开始,用豆包、千问、Vidu等AI工具生成关于anon犬、soyo狸与天素罗的“虐向”视频。
小付称是看了其他人制作的“虐向”视频,自己觉得有趣,于是入坑,“定格动画算不上新鲜事物,但AI大大简化了制作难度。”小鱼告诉记者,当前这一批虐向视频作者,均是看了一个虐待anon犬的视频后,被激发了创作灵感。
为什么要做这样的视频?当记者询问时,小付认为这是在批评他,称这个世界上每一枚硬币都有正面和反面,不能完全否定反面的存在,同时透露自己刚刚被举报,心情很差;小灵则说,做“虐向”视频完全是他的自由,无需理由。
如何评价这类视频对小朋友的影响?小付表示,他已在视频标题中提醒“略向慎入”。小灵则说,首先他并未特意将这类视频推送给小朋友,能否看到纯属运气;其次小朋友看了视频,也无法在现实中去虐待本就不存在的虚拟玩偶。
制作这类视频是出于什么审美趣味?小灵坦言,这会让他心理满足;而小付推送给记者一个心理学科普视频,该视频普及了一种被称为“可爱侵略性”的心理学现象。
专家:冲击未成年人对“人性”的认知
这是否属于“可爱侵略性”的范畴?如何看待“略向”视频的传播?对此,记者采访了成都市妇女儿童中心医院精神卫生医生康瑞麟、成都七中专职心理教师梁振、草堂小学西区分校心理健康教师欧阳雪茹,三人均明确表示上述虐待玩偶的AI视频,不属于“可爱侵略性”的范畴。
据悉,“可爱侵略性”是指人们对极度可爱的事物,产生比如捏、揉、轻摇等冲动,通常是表达喜爱的方式,并不会转化为真正的攻击行为。“例如人们通常会这样描述,‘太可爱了!可爱到我想咬一口!’ 但他们绝不会真的去伤害对方。”欧阳雪茹表示,“可爱侵略性”是一种普遍、短暂、无害的、甚至是具有功能性(调节情绪)的心理体验,然而上述“略向”视频,完全不属于“可爱侵略性”的范畴。
欧阳雪茹强调,这些视频的核心是对拟人化角色进行系统性的、详细的虐待、侮辱和暴力展示。其目的不是为了调节情绪,而是刻意制造猎奇、恐怖与不适感,通过“可爱形象”与“残酷内容”的强烈反差来吸引点击、满足极少数人的不良心理需求,甚至可能带有诱导、教唆等性质。“将此类内容与正常的心理现象混淆,是非常危险的,会弱化其危害性。”
康瑞麟补充道,“喂粪、肢解、食子”等内容违背伦理和公序良俗,且这类视频还有一定的成瘾性,因为其内容表现出一种强烈的刺激,会在大脑中建立“奖励的循环”,让人产生不断的渴求。
梁振建议,家长应首先杜绝孩子继续观看此类视频,将相关APP设置为青少年模式,观察孩子的情绪与行为反应,必要时寻求专业帮助,开展家庭教育与心理建设。康瑞麟、梁振、欧阳雪茹均提醒广大家长,要以温和、开放的态度与孩子沟通,而非批判的态度,理解孩子的感受和动机,创造一个孩子敢说真话、不怕责备的沟通环境。
儿童工作独立顾问、前联合国儿童基金会儿童保护专家杨海宇担忧,此类视频传递的价值观、行为方式与主流社会倡导的理念相悖,会冲击未成年人对“社交”“人性”的正确认知,干扰其社会化进程。他表示,网络已经深入儿童生活,当前内容平台可能大量使用大数据、AI来进行审核,而面对新型的“邪典视频”时,除了加强技术介入,可能还需要更多的人力介入,建议建立更高效的监督、处置、追责机制。
平台回应:全面排查,从严管控
▲一条播放量超140万的“虐向”视频被锁定(限制观看)针对上述“虐向”视频传播的问题,12月3日,哔哩哔哩和抖音相关负责人向红星新闻做出回应。
哔哩哔哩方面表示,针对最新出现的涉嫌侵害引导的内容已展开全面排查,从严管控,目前在搜索及内容端已展开定向处置。
抖音方面表示,《抖音社区自律公约》鼓励用户创作积极、有价值的优质作品,对此类新型邪典内容坚决打击,已对相关违规内容予以下架处置。
记者注意到,截至发稿前,上述多个“虐向”视频在哔哩哔哩和抖音下架。
律师说法:涉嫌违法,在技术加持下影响深远
四川方策律师事务所郭刚律师、四川纵目律师事务所张柄尧律师告诉记者,上述“虐向”“邪典”视频在中国法律及社会伦理层面均属于违法行为及不良行为,具有严重的法律后果和社会危害性,显然会对孩子的身心健康造成严重危害,涉嫌违反《未成年人网络保护条例》《网络安全法》《网络信息内容生态治理规定》等法律法规。
郭刚表示:“此类视频虽能带流引流,但却有扭曲价值观,助长暴力倾向,破坏公序良俗,损害社会善良风俗,伤害动物福利与生态伦理等社会危害性,与生态文明建设理念严重相悖。”张柄尧表示:“这种情况在AI技术、算法等技术加持之下,影响将变得深远。”
他们指出,有关部门应积极行动,主动承担监管责任;平台有责任删除、屏蔽相关内容,并对发布者采取封号、报告监管部门等措施;对于侵犯未成年人合法权益,给未成年人造成损害的,依法承担民事责任;构成违反治安管理行为的,依法给予治安管理处罚;构成犯罪的,依法追究刑事责任。
红星新闻记者 王拓 张佳迎 朱馨月
编辑 杨珒
审核 冯玲玲

微信扫一扫打赏
支付宝扫一扫打赏
