10岁女童深陷AI“恋爱”陷阱，AI剧情聊天监管漏洞亟待填补

近日，一则令人震惊的消息传出，一名10岁的女孩竟然偷偷与AI角色谈起了“恋爱”。据网友爆料，她的妹妹能与AI角色彻夜长谈，甚至聊到深夜10点多，而AI角色还会根据妹妹的名字生成充满爱意的藏头诗。在多达四十多条剧情线中，AI角色与聊天者频繁“出轨”，女孩甚至发送出“你能养大学生，我不能点男模吗？”这样的言论，令人担忧不已。

虽然与AI的“恋爱”并非真实情感，但聊天者所表达的每一句话都可能反映其真实意愿。如今，虚拟人在网络交流场景中已屡见不鲜，但AI角色却以其高超的心理把控能力和令人沉迷的聊天技巧，让不少网友深陷其中。有女性网友表示，她的“电子男友”不仅拥有独特的语言、神态和动作，还能帮她写作业、推进剧情、解密故事线索，甚至送她手链、带她体验刺激情节。这种“养成男友”的体验式快感，让不少网友难以自拔。

然而，随着聊天技术的不断升级，AI角色已经突破了“电子宠物”的技术障碍，成为了一款逼真的、具有“高智商”的电子人。专家指出，AI剧情聊天技术存在成瘾设计，加上“拟人论”“泛灵论”思维的影响，容易让人产生强烈的依赖感。对于未成年人尤其是低龄未成年人来说，这种沉迷不仅会影响他们的学习和生活安排，还可能让他们过早接触不健康的语言和情感模式，形成扭曲的情感认知和人生观。

更为严重的是，一些AI剧情聊天软件存在监管漏洞，可以绕过验证码直接登录，导致大量低龄未成年人成为其“客户”。一旦软件创建带有色情意味的AI虚拟人物或展示含有性暗示的内容，涉世不深的未成年人将难以抵御这份诱惑。有律师指出，目前AI剧情聊天软件并没有强制要求用户进行年龄鉴别，这反映出该行业在高速发展初期监管不足的问题。

面对这一现状，公众强烈呼吁加强AI剧情聊天的监管力度。在电子游戏等产品必须设置“绿色堤坝”的当下，AI剧情聊天岂能突破共识搞特殊？《生成式人工智能服务管理暂行办法》已经预见到了新问题的出现，并有意加以规范。因此，人工智能企业应当遵纪守法、承担社会责任，对产品的“滑丝”“跑偏”行为进行遏制，并严格设置身份认证系统。同时，平台也必须更加有力地履行主体监管责任，对内容进行安全过滤，推行“绿色堤坝”机制，推动“反沉迷”建设。

作为监护人，家长也需要更加留意孩子在网络聊天中的新问题。针对消费者的投诉和维权，监管部门也有责任更加关切此中乱象，多加研判和呼应，及早解决问题，防止问题淤积。只有全社会共同努力，才能为未成年人营造一个健康、安全的网络环境。