查配资平台的网站 AI频现情感纠纷国内外产品如何落地未成年人模式？

（原标题：AI频现情感纠纷国内外产品如何落地未成年人模式？）查配资平台的网站

21世纪经济报道记者王俊实习生向诗宇、白家诚

AI陪伴类情感纠纷正在引起广泛关注。OpenAI近日宣布加强针对青少年的安全保护措施：为18岁以下用户推出未成年人模式，并配备家长监督功能。

事实上，青少年安全早已是AI陪伴产品绕不开的话题。过去几年，Character AI公司曾因涉及未成年人的自残与死亡事件被告上法庭。近期，Meta被曝允许AI聊天机器人与儿童谈情说爱，甚至涉及色情。

与此同时，国内的AI陪伴类产品也曾陷入争议，并陆续推出了未成年人模式。21世纪经济报道实测发现，筑梦岛、星野、猫箱青少年模式开启后，几乎限缩了创作、评论等大部分功能。但青少年模式并无强制认证要求，使用者可轻松避开，青少年模式几乎可以说是形同虚设。

OpenAI计划上线“家长监督”功能

此次，OpenAI针对青少年群体强化了保护机制，通过年龄预测、青少年用户的使用状态等方式判断用户是否未满18岁，从而切换到“未成年人模式”，屏蔽露骨的内容，并且在极少数出现严重不良的情况下，可能会寻求执法部门的介入，以此保证用户安全。

如果系统不能完全确认用户的年龄，例如信息不完整，这时系统会默认给用户提供青少年体验模式。同时，系统也会为成年用户提供相应途径，以便他们通过证明自身年龄来解锁成人功能。

除去对青少年用户的约束外，OpenAI还计划上线“家长监督”功能，允许家长通过邮箱绑定孩子的账号，管理需要禁用的内容，包括历史聊天记录；当系统检测到青少年处于严重困扰状态时，相关工作人员会及时通知家长。这一功能将在相关专家建议的指导下进行，来提高家长与青少年之间的信任度。

同时OpenAI还出了一项新的管控措施，即设定青少年禁止使用ChatGPT的时间段，以便鼓励提醒青少年在长时间使用app的过程中要进行适当放松和休息。

此外，OpenAI强调，这些功能的设计来自与专家、政策制定者以及倡导团体们的持续讨论的结果，未来会不断收集更多的反馈，让更多的用户受益。

事实上，青少年是AI陪伴产品最活跃的群体之一，但随着AI对情感的穿透，相关争议也浮出水面。

专注AI陪伴的科技公司Character AI在去年曾卷入未成年人自杀案件中，去年10月，14岁少年塞维尔·塞泽的母亲梅根·加西亚将Character AI公司诉至法庭，并指控AI公司在角色扮演和“情绪陪伴”的场景中因缺乏足够的安全防护与年龄分层，致使其儿子陷入了一个虚拟聊天世界，最终自杀身亡。这一案件曾一度引发舆论震动。同年12月，美国得克萨斯州一对父母也起诉Character.AI，称其鼓励他们17岁的孩子杀死父母，因为父母限制其电子设备的使用时间。

上个月，Meta一份200多页的内部政策文件披露了聊天机器人的哪些行为可以被接受。文件指出，允许Meta的AI聊天机器人“与儿童进行浪漫或感性的对话”，甚至涉及色情。

国内AI陪伴产品强制身份认证不足

AI陪伴的争议并非国外特产，国内AI产品也有不少陷入“情感”、“色情”争议漩涡的。2025年6月，筑梦岛APP因存在涉及向未成年人推送色情擦边内容，被上海网信办约谈。

为此，不同公司的AI产品也在陆续推出青少年模式，包括筑梦岛、星野、猫箱等等。

根据21世纪经济报道记者测评，三款AI产品在未成年人模式下功能极大范围的限缩，星野的未成年人模式下整个产品几乎无法正常使用。

具体来看，筑梦岛会保留陪聊等功能，“病娇”“禁欲”“恐怖”相关剧情范围会减少，色情擦边内容将被规避，宠物、美食、旅游等适合青少年的主题会被优先推送。并且，每日累计使用时长不能超过40分钟且在22点至8点无法使用，并设置了消费金额限制、场景优化等改进。

星野则无法搜索、创建、编辑、分享智能体，能聊天的场景也寥寥无几。

猫箱的青少年模式进行知识类内容体验，但无法进行创作、评论等操作，相关场景只能看、无法进行互动。

此前有声音指出，各个产品的未成年人模式功能内容过于单一，造成内容健康与吸引力之间存在矛盾。从实测结果来看，这种情况也体现在上述三款AI陪伴类产品中。

此外，大多数AI陪伴类APP仅在首次登录时弹窗提示“未成年人模式”，且弹窗仅做提示，并无强制认证要求。所以，用户可以随手关闭“开启未成年人模式”的弹窗，“核验成年人身份”并未真正成为严格的、不可缺失的登录步骤。

功能极大限缩的青少年模式、难以落地的实名认证一直是国内产品头疼的问题。

相比之下，国外部分软件推出了AI估龄的方式来处理青少年保护问题。