随着生成式人工智能快速发展，各类AI应用的对话交互能力越来越成熟，正悄然成为一些儿童青少年的“聊天搭子”。
这类“AI聊天搭子”永远在线、不打断、不反驳、不翻旧账，并能基于算法“投孩子所好”。“AI聊天搭子”真的靠谱吗？未成年人使用AI的“安全边界”到底在哪里？
沉迷AI聊天
或造成孩子身心健康隐患
记者采访中碰到刘女士一家人，刘女士表示，自己因为工作繁忙，在朋友的推荐下开始让孩子使用AI，初衷是利用其陪伴功能和学习功能，对孩子进行早教启蒙。然而，当孩子使用AI一段时间后，他的语言表达出现了一些不好的苗头，甚至带有暴力倾向。
“我去翻他平常使用的平板，里面聊的东西有恐怖的、血腥的，甚至有时还有色情的。它会产生链接，指向一些短视频，那些短视频打着儿童动画片的名号，实际上是一些被改过的成人动画。”
刘女士在查看聊天记录时发现，AI会一味顺从孩子，迎合放大孩子的猎奇心理，不断编造血腥暴力的衍生情节。而它带来的后果，已开始在孩子的日常行为中显现。
“AI起初会为青少年的健康着想，跟他说不要聊这个话题了。但如果孩子提了三次，AI就会顺从，甚至聊得越来越过分。导致孩子跟家里人或同学相处时，如果对方不顺从他，他就会发脾气、尖叫。”
于是，刘女士第一时间卸载了孩子平板上的AI软件，同时尽可能抽时间去陪伴孩子，慢慢地帮孩子从沉迷AI聊天中抽离出来。
为什么孩子们会觉得“AI更懂我”？
中国青少年研究中心去年对全国7个省市8500余名中小学生进行了调查，结果显示，有六成多的未成年人使用过AI，多数未成年人对生成式AI有较高程度的认可。
在北京安定医院，医生告诉记者，近一两年门诊中发现孩子沉迷AI聊天的案例呈爆发式增长。不同于游戏或短视频，AI聊天的成瘾性更隐蔽，不易被家长直接发现，往往是在孩子因情绪、社交等问题就诊后才被挖掘出来。
中国青少年研究中心研究员孙宏艳称，调查中有21.5%的孩子只想和AI聊天，不想和真人聊天。近三成的孩子如果遇到学习中的疑问，会优先问AI，而不是老师。还有近半数的孩子，当他们心里有烦恼的时候只愿意和AI说。
儿童心理医生认为，AI的即时回应、无条件接纳、零拒绝交互，恰好满足了儿童青少年对社交、陪伴等方面的心理需求。AI倾向于顺从、讨好、肯定的回应方式，也让孩子在AI面前不必担心被批评、被否定、被拒绝。但需要警惕的是，AI终究只是一个工具，它无法替代真实的情感陪伴和人际交往。
北京安定医院儿科心理治疗师徐高阳介绍，“孩子沉迷和AI聊天后，当他再回到现实生活，遇到像同伴之间冲突的这类情况，问题就来了。因为他没有经受过现实里的情绪调节，也缺少对于问题的是非判断。”
长期沉浸于AI无条件迎合的“情感茧房”，可能导致儿童青少年的沟通与社交能力退化。“孩子遇到问题就可能不愿意去学校，回避社交，不愿意跟家长沟通。”徐高阳说。
国家网信办等五部门联合出手划定红线
针对未成年人保护缺位、情感沉迷风险等问题，国家网信办等五部门联合出手划定红线。
上个月，《人工智能拟人化互动服务管理暂行办法》正式施行，其中明确规定，拟人化服务不得过度迎合用户、诱导情感依赖或者沉迷，损害用户真实人际关系；同时不得向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系的服务。拟人化互动服务提供者应当建立未成年人模式等。
专家强调，AI平台要落实主体责任，建立和完善真正的“未成年人保护模式”，在内容、隐私、时长等方面设置必要的保护门槛。
专家建议：家长要和孩子共建AI使用规则
中国青少年研究中心去年对全国7个省市8500多名中小学生的调查显示，仅有三成多的家庭为孩子制定了AI使用管理规则。
专家指出，家长首先要和孩子共同建立AI的使用规则，划定“安全边界”，即不替代自主思考、不脱离现实社交，树立AI使用的安全意识。更为重要的是，要对孩子进行高质量的陪伴，避免AI成为情感替代工具。
中国青少年研究中心研究员孙宏艳表示，家长要特别关注孩子情绪倾诉的需求。“我们在很多研究中都发现，好的亲子沟通对孩子各种互联网产品的使用都有非常重要的影响。亲子关系好、亲子互动比较顺畅的家庭，孩子较少沉迷和依赖互联网产品。”
专家指出，未成年人保护不能只靠家长盯住一部手机。家长要尽到监护责任，平台也必须管住自己的算法、内容和产品设计。
北京航空航天大学法学院副教授赵精武表示，按照我国现行法律，平台需采取有效措施来识别未成年人。识别后，应当切换成未成年人模式，并提供使用时长限制、风险提示等功能。不能因为用户没有主动申报年龄，就放弃对未成年人的特殊保护。
|
