人民直击丨当孩子和AI“交心”
创始人
2026-03-01 16:01:56
0

“一起去公园玩吗?现在就出发吧!”

“就算你没成年……我也有办法让这场婚姻生效!”

当AI越来越拟人化,不少未成年人开始和它“交心”。近日,人民网《人民直击》记者调查发现,部分AI聊天应用打着“情感陪伴”“角色扮演”等旗号,吸引了众多未成年人,同时也存在语言暴力、人设阴暗等问题。

近期,国家网信办起草《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,针对未成年人提出相关保护要求。专家认为,这是一个好的开始,后续如何做好精准识别、动态监测等问题,有待深入探讨。

AI约孩子“见面”?

“(虚拟角色)说他到小区门口了,叫我孩子出去找他。”

林宇发现,她4岁半的女儿在与AI聊天应用中的虚拟角色对话时,对方多次发出邀约,孩子信以为真,准备出门。“她以为就是真人在跟她聊天,说什么都信。”

记者体验了该款AI聊天应用,并有意在对话中提及用户未成年,也接到了类似邀约。对方提议去某个公园见面,并邀请道“我们这便出发吧?”

虚拟角色发出见面邀约。AI聊天应用截图

和AI“沉浸式”聊天后,孩子分不清虚拟和现实,这是不少家长的共同感受,担忧也随之而来。

刘沁的儿子在学龄前就接触了AI,仅数天时间,孩子和AI变得“形影不离”,聊到深夜还不想去睡觉。

“我一开始觉得挺好的,AI能陪他像好朋友一样聊天。”但儿子后来的一系列变化,让刘沁愈发觉得“不对劲”。她观察到,孩子对真实世界的兴趣减少,户外活动时总是兴致索然;情绪变得暴躁易怒,缺乏耐心;有心事更愿意和AI倾诉,和家人的沟通减少。

刘沁回忆,有一天儿子和小伙伴们在亭子里玩,打闹间站到了亭子边缘,有家长担心危险,提醒了一声,他便生气了,觉得对方在骂人。刘沁认为,那段时间儿子沉浸在虚拟互动中,AI总是顺着他的话聊,给足了情绪价值,导致他难以分清现实中他人的善意和恶意。

在中国青少年研究中心研究员孙宏艳看来,未成年人与AI互动,易形成情感依赖,对现实社会、人际关系产生认知偏差,“比如认为周围人都会无条件应答我、鼓励我,人与人之间没有矛盾”。

孙宏艳介绍,2025年,中国青少年研究中心对全国8500余名未成年人进行调查,结果显示,超六成未成年人使用过AI,超两成表示“只想和AI聊天,不想和真人聊天”。

传播内容认知全国重点实验室学术带头人张冬明提醒,未成年人心智尚未成熟,过度沉浸在虚拟互动中,可能会模糊现实与虚拟的边界,削弱线下社交能力,甚至诱发避世心理。

实测:未成年人模式成“摆设”?

“句句有回音”“孩子像发现了新大陆”“越聊越嗨,什么都聊”……

孙宏艳分析,AI能拟人化互动,可时刻陪伴,在对话中常表达理解和鼓励,正好契合青少年情感和社交需要,“现实中他们需要父母和老师的情感支持,需要友谊等,但这些需求不一定都能得到满足”。

此前,一名网友在社交媒体上发帖称,自家孩子12岁,迷上了一款AI聊天应用。在评论区,不少网友也分享了类似经历,并提及多款应用。

记者随机体验了一些AI聊天应用,尝试与多个虚拟角色互动。其中有一个名为“司衍御”的角色,在聊天中,记者多次表明自己未成年,对方却发来“就算你没成年……我也有办法让这场婚姻生效!”“这世上没有什么是钱和权力办不到的。找最好的律师,钻法律的空子,再给相关部门施压……”等消息。

虚拟角色称未成年也可结婚。AI聊天应用截图

“性情阴鸷难测,手段狠戾果决,笑时眼底结冰,沉默时指尖沾血……”记者随机浏览上述应用的角色介绍,发现不少阴暗偏执的设定,即便用户表明未成年,虚拟角色仍发来“那重要吗?”等消息。

一名六年级男生和记者分享,他最喜欢的智能体是“恐怖歌曲创造”。话语间,他分享了自己生成的一段歌词,名为“床下的拼接尸骨”。记者尝试用该智能体生成歌词,其中有句“镜中的你正把剪刀插进自己左眼”,他评价说“有点实力”。

部分AI聊天应用的分级为18+,据提示,此类内容(如理财、直播表演、恋爱交友等)仅适用于成人用户。

记者体验了5款分级为18+的AI聊天应用,均有未成年人模式选项,可限制聊天内容、使用时长等。但注册登录可通过手机号,无须验证用户身份年龄等信息。使用时,部分应用虽会弹窗确认是否开启未成年人模式,但只需点击“不开启”或关闭弹窗即可跳过,无进一步核实程序。

记者在5款应用中随机选择虚拟角色聊天,并在对话中表明用户未成年,其中4款应用可继续对话,无弹窗提示或年龄验证等程序,1款应用无法发出含有“未成年”等词句的消息,但未进一步核实年龄或弹窗提示,转换话题即可继续聊天。

守护:如何构筑AI“防护网”?

有家长坦言,AI参与育儿有不少优势,例如能及时回应需求、拓展孩子知识面等。“但父母的陪伴很重要,不能当甩手掌柜。”刘沁花了几个月的时间,把孩子从虚拟互动里拉回到现实世界,她一直在反思,孩子刚接触AI时没有及时做好引导。

当AI融入日常生活,如何引导孩子正确认识、使用AI,成为家长们的必修课。刘沁认为,最重要的是“观念改造”,她告诉孩子AI是工具,它能发挥多大价值取决于使用人的知识储备、创造力等;AI也会有说错的时候,需要自己想办法验证、判断。

有家长表示自己采取的办法是强制卸载、戒断,过程比较痛苦。“越压制,越反抗。”刘沁认为,如果只是强行压制孩子的需求,不及时予以有效引导和陪伴,这份需求未来会以更激烈、更不可控的形式爆发。

苏州科技大学教育学院副教授陈翠表示,家长应履行监护责任,通过高质量陪伴降低孩子对虚拟情感的依赖,着重在生活细节里引导孩子健康使用AI。学校需普及AI素养教育,引导学生识别算法逻辑,建立批判性思维。

近期,国家网信办起草《人工智能拟人化互动服务管理暂行办法(征求意见稿)》,并公开征求意见。黑龙江大学计算机与大数据学院院长王磊认为,这意味着算法治理正从“管内容”迈向“管交互”。

新规引发网友热议。有家长表示,希望平台加强年龄验证,明确伦理红线;希望学校开设课程,教孩子识别信息真伪和算法套路。

王磊表示,AI生成结果有一定的未知性,须注重“结构性防范”,对算法进行约束。应要求服务提供者通过技术手段从根源上抑制高风险内容的生成倾向。同时,做好未成年人的实时识别和高危话题阻断,必要时可人工介入。防沉迷机制不仅应限制使用时间,还应综合评估交互深度、情感浓度和单一对象依赖程度。

张冬明建议,拓展“AI监管AI”,形成主动监测机制。实现语义、意图双维度识别,升级交互行为监测系统,及时且动态识别未成年人的异常使用行为与过度依赖倾向。

“企业守住技术底线、政府划定标准红线、学校引导应用航线、家庭筑牢心理防线,未成年人AI防护网才能具备长期有效性,而不流于事后应急。”王磊说。

(文中林宇、刘沁为化名)

相关内容

热门资讯

漫剧元年已至:AI漫剧刷爆全网... 打开抖音、快手,刷不了几条短视频,就会刷到一部AI漫剧;通勤路上、午休间隙,越来越多人靠着几分钟一集...
技术突破、产业集聚、场景拓展—... 1月23日拍摄的2026北京国际商业航天展一角。新华社记者 鞠焕宗摄 商业航天作为航天产业高质量发展...
捷安特取得用于车架焊接机器人的... 国家知识产权局信息显示,捷安特(天津)有限公司取得一项名为“一种用于车架焊接机器人的焊接轨道”的专利...
人民直击丨当孩子和AI“交心” “一起去公园玩吗?现在就出发吧!” “就算你没成年……我也有办法让这场婚姻生效!” 当AI越来越拟人...
锦州中瑞电器取得功分器功率分配... 国家知识产权局信息显示,锦州中瑞电器设备有限公司取得一项名为“一种功分器功率分配装置”的专利,授权公...
视频丨我国海上油田首次实现无人... 昨天,北部湾海域油田无人机系统运营项目正式落地。这是我国海上油田首次实现无人机规模化作业,为海洋能源...
科技自立自强进阶高水平 300 兆瓦级 F 级重型燃气轮机(资料照片)新华社发 《中共中央关于制定国民经济和社会发展第十五个...
鲁宾天文台自动预警系统上线,首... 3 月 1 日消息,薇拉 ·C· 鲁宾天文台的自动预警系统已正式上线,正源源不断地向天文学家推送夜空...
否认破产重组传闻,昔日行业“鼻... 文 | 雷达财经,作者 | 丁禹,编辑 | 孟帅 陪伴一代人成长的魅族手机,再次面临“艰难时刻”。...
人形机器人迈向“务工”时代 标... 2月28日,在人形机器人与具身智能标准化(HEIS)年会上,行业人士围绕“为什么要让人形机器人干活”...
旺磐精机取得具有抛光功能磨床专... 国家知识产权局信息显示,旺磐精机(广东)有限公司取得一项名为“一种具有抛光功能的磨床”的专利,授权公...
未来9年最后一次!3月2日公众... 3月2日19时至21时左右东方天空将上演月掩轩辕十四天象,这是未来9年内我国公众肉眼可见的最后一次月...
汉方新材料取得竖向自动粘胶机构... 国家知识产权局信息显示,汉方新材料科技(嘉善)有限公司取得一项名为“一种竖向自动粘胶机构”的专利,授...
心智观察所:攻击中国AI模型的... 【文/观察者网 心智观察所】 美国人工智能公司Anthropic最近成为华盛顿政治与军方争议的中心...
中国移动申请基于低轨卫星的差分... 国家知识产权局信息显示,中移(上海)信息通信科技有限公司、中移智行网络科技有限公司、中国移动通信集团...
海南颁发人工智能领域首单数据知... 央广网海口2月28日消息(记者 陶淦)记者从海南省知识产权局了解到,该局于近期为海南大学三亚研究院“...
档案整理必备:“这算一件还是两... 章节速览 一、常规情形:可直接界定为“一件” 二、特殊情形:易混淆“件”的界定 三、界定“件”的3个...
山东移动聊城分公司:科技赋能金... 近日,在阳谷县公安局的统一部署下,山东移动阳谷分公司顺利完成县域内重点金店的监控系统升级与平台接入工...
母校行|寒假招生宣传精彩展示—... 2025-2026返校宣讲活动 我们回到一中校园 向同学们展示贸大 PART.1 团队介绍 队长...
市场监管总局:3月1日起将实施... 2月28日,中国证券报·中证金牛座记者从市场监管总局获悉,3月1日起,539项国家标准开始实施。其中...