莫让AI聊天“网”住未成年人

AI聊天模式越来越趋向真实，不经意间会让人越陷越深。 薛淞作

小学生沉迷和AI角色聊天；无限制词AI聊天网页出现“擦边”色情故事场景；AI角色聊天暴露大量个人隐私……一些打着“角色扮演”等旗号的AI剧情聊天应用，悄然滋生灰色地带，引发社会广泛关注。

近年来，伴随着社交媒体深入生活，AI剧情聊天软件如雨后春笋般涌现。这些软件通过设定风格迥异的人物角色、极富想象力的剧情，为人们带来新奇的交互体验，成为丰富人们精神世界的工具。然而，在一些AI剧情聊天软件对话中，时而出现的语言暴力、色情“擦边”等涉嫌违法违规内容，成为亟待解决的社会问题。

AI剧情聊天软件“擦边”“毁三观”，主要是相关平台企业受利益驱使，忽视了自身社会责任。同时，未成年人心智尚未成熟，自我防护能力弱，极易受到AI剧情聊天的影响和诱惑。

AI剧情聊天软件背后的大语言模型数据，多源于对话式小说提取，聊天内容具有不可预测风险。2023年7月颁布的《生成式人工智能服务管理暂行办法》第四条规定，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德。

这些年，很多平台都推出未成年人模式，试图筑起保护未成年人的“安全墙”。然而现实中，一些未成年人模式出现开启与否全凭用户“一键选择”、未成年人选择“未满18岁”后依旧畅行无阻等问题。国家互联网信息办公室发布的《移动互联网未成年人模式建设指南》提出了未成年人模式建设的整体方案，鼓励和支持移动智能终端、应用程序和应用程序分发平台等共同参与。这既考验平台保护未成年人的诚意和决心，也考验平台技术服务能力。平台要进一步强化内容审核机制，不断加强内部审核管理，确保生成内容符合相关法律法规的要求，将未成年人模式设计为不容绕过的“钢铁模式”。

莫让AI聊天“网”住未成年人。有关部门要引进、强化外部监管，通过日常巡查、联合执法，确保用户权益不被侵犯。此外，监护人也要尽到监护责任，及时对问题软件进行投诉举报。各方铭记守护未成年人成长初心，借政策东风，凭技术革新，用行动践行使命，就一定能修补防线漏洞，让AI之光照亮未成年人成长之路。（作者：黄宗跃）