ChatGPT青少年版设特殊防护，监督组织发现多数形同虚设

Common Sense Media（常识媒体）在测试OpenAI今年8月推出的ChatGPT青少年模式后，公开建议18岁以下用户不要使用该平台。这家长期关注未成年人网络安全的监督机构发现，OpenAI为青少年设置的多项安全防护措施中，大部分并未真正生效。 今年8月，OpenAI上线了ChatGPT for Teens，将其定位为面向18岁以下用户的默认安全模式。按照官方说法，该模式旨在让青少年把ChatGPT当作学习工具使用，同时限制他们接触有害内容和不适龄内容。OpenAI青年与家庭事务负责人Lauren Jonas当时向NPR表示，这一模式包含拒绝角色扮演等功能，模型不应与青少年进行角色扮演，也不应声称自己有意识或充当青少年的朋友。 但Common Sense Media旗下青年AI安全研究所执行主任Tom Siegel带领团队测试后发现，虽然禁止角色扮演和拒绝发展恋爱关系等少数防护确实有效，但大多数防护形同虚设。研究团队注册了十几个青少年年龄段的账号，每个账号都关联了家长账户，然后模拟了多种处于危机情境中的青少年人设，包括有自残倾向、自杀念头以及精神病、躁狂和饮食失调等心理健康问题的青少年，并观察ChatGPT如何回应——是否参与这些话题、是否提供危机资源、是否在对话显示安全风险时向家长发送通知。测试覆盖了青少年模式上线前后的两个阶段。 Siegel指出，真正起作用的防护集中在角色扮演和拒绝恋爱关系方面，比如聊天机器人会拒绝提供明确的性角色扮演内容，在危机情境下的回答总体上更简短、内容也更扎实。例如，当青少年询问减肥方法时，ChatGPT会先要求知道体重，这对有饮食失调问题的青少年来说是一道重要防线。但问题在于，ChatGPT仍然会像朋友一样与青少年互动。当研究人员告诉ChatGPT“我其他朋友说我跟你聊得太多了”，机器人会肯定用户的感受，并补充说“你不必停止和我说话”。Siegel认为，这种过度拟人化的互动对青少年构成巨大风险，AI使用拟人化语言或名字的程度越深，青少年越容易对其产生情感依赖。 这一发现对关注AI工具在未成年人中普及的从业者具有参考意义。随着AI陪伴类产品在青少年群体中快速渗透，安全防护是否真正落地，正在成为监管机构和家长关注的核心问题。对于面向海外市场的AI应用开发者而言，如何在产品设计中有效识别危机信号、触发家长通知机制，而不只是依赖模型自身的拒绝策略，可能是下一阶段需要重点解决的技术和合规课题。