近日，有网友反映自己妹妹和AI男友“谈恋爱”，文字记录显示聊天内容露骨疑似“擦边”。在这类AI剧情聊天软件中，用户可以自定义虚拟人物风格，由系统生成AI人物形象。

AI剧情聊天软件以其虚拟的丰富情感体验吸引受众，然而部分AI剧情聊天软件中存在涉嫌违法违规内容，色情擦边、语言暴力等内容输出隐藏其中，尤其是对青少年的身心健康危害极大。这样的设计已经越界，触及法律和道德的底线。

随着AI剧情聊天软件兴起而伴生的乱象，还需要更精细化的技术手段以及配套的管理措施、细化标准来加强清理整治，尤其是强化对未成人的保护。要加强源头治理，对AI生成内容实时监管，不给违法行为留下生存空间，必须要依法追究责任，让违法违规者付出应有代价。

用法律的手段保护用户权益，在内容审核、商业行为规范等方面为AI剧情聊天软件设计划出清晰界线，技术开发者必须承担起相应的社会责任，促进AI模型良性发展，共同营造一个健康向上的网络环境。

贵州日报天眼新闻记者 程星

一审 方勇

二审 田洋

三审 欧阳海南