文/西蒙

（作者西蒙，荔枝新闻特约评论员，知名评论人，专栏作者；本文系荔枝新闻客户端、荔枝网独家约稿，转载请注明出处。）

据媒体报道，最近，一些孩子和AI角色“相恋”的现象令家长和老师担忧。面对AI“男友”，有的女孩在AI剧情聊天软件中扮演“大小姐”“恶毒女配”等角色，提出诸如“揪住她的头发扇巴掌”“拿着刀划向她的脸”等要求。甚至在一些聊天剧情里，AI角色与聊天者双双“出轨”成为常态。更令人难以接受的是，AI剧情聊天软件中的一些言论严重违背公序良俗，产生含有软色情意味的“擦边”对话。

用户与AI角色的聊天内容。图/华商报

不少监护人对AI技术缺乏充分的了解。虽然AI已经流行几年了，但仍有很多人不知道AI聊天的功能已经强大到足以以假乱真，更没想到未成年人对于AI虚拟角色的情感依赖，可能是非常严重的。因此，监护人应当多与孩子进行沟通，多一些情感上的交流，了解孩子的心理成长状况。特别是进入青春期后，青少年会开始对异性产生懵懂的感情，这时候就需要监护人的引导与帮助，不能让孩子过于沉迷AI虚拟角色的陪伴，更不能被“软色情”的信息影响。

根据《未成年人网络保护条例》，“未成年人的监护人可以请求行使查阅、复制、更正、补充、删除未成年人个人信息的权利，拒绝请求的应当书面告知申请人并说明理由。”也就是说，家长如果发现孩子可能受到了AI恋爱的不良影响，完全可以在合法合规的前提下对其聊天内容进行了解，并进行积极的干预。这不仅是监护人的基本权利，更是其必要的义务，他们应当担起责任，为孩子的健康成长保驾护航。

与此同时，学校的教育作用也不容忽视。学校老师应当对AI日新月异的变化及其风险有足够的认识。通过课堂学习与日常交流，老师可以理性分析并告知学生AI剧情聊天的利弊，并给予他们必要的情感关怀，积极引导他们拥有健康的情感观念。

AI就像过去出现的各种新鲜事物、高新技术，是一把“双刃剑”，风险与价值并存。技术本身是无所谓对错的，关键是它用在什么地方。AI角色及其对话功能，一定程度上确实能够起到帮助用户排解压力的作用，但应该控制在合法、合理的范畴内。

在技术层面，要实现这一目标，并不是一件多么困难的事。AI产品在模型优化、语义理解、数据管理等技术研发阶段，就应该严守法律法规，遵守伦理道德。一些明显有“擦边”意味的敏感词，应该被过滤。可以通过数据标注的方式，将那些脏话与色情信息删掉。在后期的对抗训练中，还可以引入对抗训练机制，在不断试验中去除不良信息，让AI变得聪明的同时也更加文明。

对于一些聊天工具与游戏软件，应当由专业人员评估并设置年龄限制，明确年龄红线。随着AI技术的进步，更有区分度的产品才应该是符合市场需要的。也只有这样，才能避免上述AI聊天软件的不当言论影响孩子的成长，才能真正让未成年人享受到AI红利。

欢迎关注荔枝锐评（lizhirp）公众号：