OpenAI推出带护栏的轻量版ChatGPT

OpenAI正式推出面向青少年的ChatGPT版本“ChatGPT for Teens”，专为13至17岁用户设计，内置了针对暴力、自残、性内容和心理疾病等敏感话题的防护机制。如果青少年尝试触碰这些受限话题，且家长开启了家长控制功能，系统会自动向家长发送提醒。这一新版本还加入了“学习模式”，学生可以基于正在学习的科目进行测验和可视化学习，家长则可通过“学习时长”功能了解孩子实际用于学习的时间。 此次推出青少年版ChatGPT的背景，是生成式AI在年轻用户群体中的滥用问题持续引发关注。OpenAI目前正面临多起诉讼，指控其聊天机器人曾给出不安全建议。尽管OpenAI要求所有用户在注册时填写年龄，但并非所有人都会如实填写。公司并未采用独立的年龄验证工具，而是通过分析用户输入内容来判断其年龄，一旦系统判定用户为未成年人，会自动切换至青少年模式。OpenAI首席执行官萨姆·奥尔特曼此前曾表示，公司正在研究“情感过度依赖”问题，尤其关注年轻用户群体——研究显示，高达70%的年轻用户会向聊天机器人寻求陪伴，而青少年的大脑发育阶段可能更容易受到不良建议的影响，或误认为合成媒体具有意识。OpenAI在新闻稿中强调，青少年版ChatGPT的设计初衷是支持现实世界的人际关系和健康习惯，包括提醒用户适时休息，并在产品交互中持续标明ChatGPT的AI身份，以帮助青少年建立对AI的正确认知。