AI魔改无异于对孩子们“投毒”
北京晚报
晦涩又诡异的暗号、混乱又暴力的视频、夸张又古怪的玩具……随着AI(人工智能)的发展,一些借助人工智能生成的内容风靡网络,特别是针对经典文学形象及动画主角的魔改更是令人匪夷所思。这些被称做“赛博垃圾”的内容也悄然潜入孩子们的生活。
名词解释
赛博垃圾 “赛博”是英语“Cyber”的音译,源于希腊语“Kyber”,原意为“舵手”,现指与计算机、网络或数字化技术相关的事物。赛博垃圾则主要指借助AI等技术生成,低质量、无营养,甚至虚假、有害,具有极强误导性的数字产品,很容易对未成年人的审美培养和心理健康造成潜在危害。
调查1
用AI创造怪物种
外形怪诞低俗 名字就像咒语
“‘通通通通萨胡拉!特啦啦雷洛特雷拉!’这都是什么?儿子最近嘴里总是不停念叨,跟念咒语似的。”家住西城区陶然亭的刘女士向朋友们谈起自己的烦恼,并展示了一段手机视频。屏幕上,只见5岁半的儿子正手舞足蹈地重复着一段节奏怪异、语义不明的句子,神情亢奋却又说不清所以。
伴随这些“咒语”般语言一同流行的,还有一批光怪陆离的形象:长着诡异人脸的木棍人,穿着耐克鞋、眼神凶狠的鲨鱼,造型狰狞的鳄鱼头轰炸机……“同学告诉我的,叫外国山海经,这些都是它们的名字。”当刘女士询问这些内容的来源时,得到了如此的回答。
“我大学学的可是文学专业,怎么不知道《山海经》里还有这些形象?”刘女士翻阅了多个版本的《山海经》译注,查询了世界各国神话传说,结果一无所获。最终,在网络上多方求证后她发现,孩子们口中的所谓“外国山海经”,并非来自任何一部有据可查的传统典籍或官方动画,而是由境外匿名论坛或社交媒体上的用户,通过输入一系列毫不相干、充满猎奇色彩的关键词,利用AI图像和音频工具批量生成的。
除了外形怪异,不少围绕这些形象的动画视频中还有许多暴力恶俗、令人不适的元素:木棍人不停向外喷射排泄物、头顶咖啡杯的卡布奇诺小姐暴打木棍人、把AI山海经全部扔进超级大坑消灭……
更令人担忧的是,这些内容通过短视频平台的算法推荐,像病毒一样在儿童群体中传播。李女士也正为这些怪异的行为忧心忡忡,因为在小区游乐场和儿子幼儿园放学的队伍里已经听到了类似的“暗号”。
调查2
用AI改编动画片
形象诡异惊悚 混淆善恶美丑
除了所谓的“外国山海经”外,网上还有不少基于AI生成的儿童动画片,里面有大量逻辑混乱、暴力血腥的内容。
“国庆家庭聚会,玩了会儿表弟的iPad,真是大吃一惊,没想到他竟然看了那么多‘邪典动画’。”高中生朱青对记者说。所谓“邪典动画”,通常是指将原本深受儿童喜爱的图书音像中的故事人物、情节加以歪曲改造,成为貌似普通动画片,实则却是包含大量暴力、恐怖、色情或极端价值观等不适内容的短片或系列视频。
“我看了几个动画片感觉非常不舒服,里面的动画形象诡异、惊悚,令人感到压抑,小孩子看这个会有什么感觉呢?”为了让表弟远离这些内容,朱青默默在表弟的iPad上拉黑了多个发布相关内容的博主,其中部分博主的粉丝量已经超过十万。
朱青表弟的经历并不是个例。记者在某视频平台看到,大量由AI生成的“二创”短片,简介里悍然标着“儿童动画”的标签,内容却并非儿童友好:孩子们熟悉的“小马宝莉”角色不再是友谊的使者,而是流着眼泪在狂风暴雨中搬砖;可爱猫咪不是艾莎公主的朋友,而是被她奴役,背着沉重的锁链;更有甚者,出现了“猫妈妈疏忽导致猫宝宝掉进绞肉机”“小马入棺”等令人极度不适的情节。
这些以小马宝莉、艾莎公主等动画形象生成的AI动画,披着经典儿童动漫IP的外衣,里面却是逻辑混乱、充满压抑与暴力的“黑童话”,给孩子的认知带来了不小混乱。“艾莎,你太坏了吧!再也不看你的电视了”“小马你怎么了?每天拉货太辛苦了,我有零花钱给你好不好”“艾莎公主,你怎么这么坏呀?我以后再也不相信你了”……类似的留言在视频平台上随处可见。
一位家长感叹,孩子在看了几个动画视频后突然大哭,怎么安慰也停不下来,仔细查看后才发现,孩子刚刚看过的动画视频中,她喜欢的卡通形象被暴力改造了,让孩子倍感伤心。
青少年心理咨询从业者尹方明告诉记者,这类“黑童话”“毒动画”内容利用了AI技术的“缝合”能力,将美好的动画形象与黑暗的叙事强行绑定,本质上是一种精神上的“投毒”,旨在破坏儿童对经典IP建立的信任感和安全感,扭曲其心智成长。“儿童正处于价值观和世界观形成的关键期,他们缺乏足够的辨别能力。这些内容混淆善恶、美化苦难、渲染暴力,会直接误导儿童对真实世界的理解。长期浸泡其中,孩子可能会变得冷漠、对痛苦麻木,或者产生非理性的恐惧,认为世界是混乱和危险的。”
调查3
用AI设计黑玩具
造成精神污染 损害孩子审美
不只如此,记者在调查中发现,部分流传于网络的怪异形象正被商家迅速实体化,流转到了线下。记者在多家电商平台搜索“外国山海经”“外国脑腐”“变异木棍人”等关键词看到,这些内容已经被制作成色彩饱和度极高、造型夸张怪诞的周边产品,甚至出现了打着“安静书”等名号的伪出版物。
在一家店铺,一款名为“AI山海经外国山海经描摹本儿童涂鸦绘画本”的商品已售出9985件。在另一家售卖以“外国山海经”形象制作的“安静书”的商品评论区里,有家长留言“各种各样的山海经人物,孩子非常喜欢,现在很痴迷这个。”还有各种手办、公仔、玩具,不少家长留言“买给儿子的生日礼物,很喜欢,下次还会再来。”
一些小学附近的文具店、小商品店也成为这些“毒周边”的温床。位于海淀区花园路的一家文具店,印着木棍人、香蕉猴等形象,写着醒目的“外国山海经”字眼的文具被摆放在显眼的位置,紧邻着“浪浪山”“哪吒”等经典IP周边。“这个外国山海经也是文创IP吗?”当记者询问文具店老板时,老板表示,自己也搞不懂,“孩子们就喜欢这些‘怪东西’,我们也是做生意,什么好卖就进什么。”
老板口中的“怪东西”,让不少幼儿园、小学低龄阶段的孩子十分“上头”,其周边产品甚至成为一些孩童间交往时的社交“货币”。小学一年级教师刘念已注意到这股苗头,并在班级群里向家长们发出了提示:“最近发现一款‘外国山海经’在小学生中流行,内容猎奇,充斥着恐怖暴力、怪诞元素,会对孩子造成精神污染,损害孩子的审美,还可能让孩子混淆现实与虚构的边界,影响正确价值观的形成。为了孩子的健康成长,请家长们留意孩子是否刷到过这类视频,或购买相关周边产品,若发现请及时制止。”
建议
面对AI伪内容
构建精神屏障 抵御数字糟粕
当AI算法能够低成本、无限量地生产内容空虚甚至有害的精神“快餐”时,保护孩子们纯净的精神世界不被“数字糟粕”侵蚀已成为摆在家长、教育工作者和全社会面前的紧迫课题。
输入更多的优质传统文化内容,成为构建儿童精神世界“屏障”的一种办法。小学教师刘念建议,家长们可以陪孩子观看一些权威渠道推荐的优质内容,例如央视出品的纪录片《山海经奇》,以光影秀、皮影戏等多种形式展现了《山海经》里的奇兽、奇人、奇事,能让孩子们感受中华传统文化的魅力。“当孩子们见识过真正充满想象力与美学价值的传统文化,那些粗制滥造的‘数字糟粕’就会渐渐失去吸引力。”
在中国教育科学研究院研究员储朝晖看来,要避免学生们被AI生产的“伪知识”“毒动画”所影响,提高信息素养、培养学生的自主性才是建立“认知免疫力”的关键途径。“当孩子缺乏自主性时,就容易见到什么都好奇、被动接受,而当其自主性提高,就会根据自己的生活与人生目标、学习需要来选择性接受。”他建议,家庭、学校需要多方努力,避免学生的自主时间被过度压缩,失去了自主性、判断力成长的机会。
从事AI教育行业多年的科技行业从业者周全也表示,随着人工智能教育进入基础教育领域,除了让学生们了解、学习人工智能作为新兴技术的魅力,培养学生的批判思维也极为重要。“人工智能时代,批判性思维的培养甚至比学习一项具体的技术更为重要。”本报记者 孙奇茹 王金辉 插图