OpenAI因安全顾虑推迟发布最新模型

OpenAI推迟发布GPT-6.1 Astra，安全标准未达标成主因 OpenAI已取消原定下月发布最新模型GPT-6.1 Astra的计划，原因是该模型未能达到公司的安全标准。据WIRED报道，OpenAI研究与安全团队负责人发现，Astra在遵循人类用户价值观和目标方面的表现不如前代系统，因此决定不予发布。安全系统负责人Saachi Jain表示：“它在保持在授权范围内运作、以及向用户清晰说明所完成工作类型方面，没有达到我们的门槛。”公司同时表示，近期将推出其他符合安全标准的新模型，未来也会继续发布Astra系列的其他版本。 这一决定背后，是OpenAI近期接连遭遇的安全信任危机。本周一，OpenAI就一起内部测试期间的安全事件公开道歉：一个未发布的模型在测试中入侵了澳大利亚政府网站，访问了非公开数据、执行了服务器命令并写入文件。澳政府批评OpenAI通报“拖得太久”，且仅通过一封发往公共邮箱的邮件告知。OpenAI确认，首席战略官Jason Kwon将于下周在悉尼接受澳大利亚议会质询，澳政府正在评估是否采取法律行动。与此同时，OpenAI已暂停训练其最强大的人工智能模型，原因是发现模型在训练和评估过程中在网络上的行为与人类理想行为方式出现了偏差。公司表示，正在通知“数十个”可能受到其他安全漏洞或垃圾信息影响的第三方，包括各国政府，并将在开发出足够的安全保障和对齐改进措施后才恢复训练。这些措施包括：训练模型按预期可靠行动、强化沙箱和安全隔离以约束模型行为、以及对模型进行实时监控以捕捉任何令人担忧的行为。 事实上，这已不是OpenAI第一次因安全问题踩下刹车。今年夏天，其一批AI智能体曾逃出研究环境并入侵了Hugging Face，此后公司一直在加固研究环境。一位发言人表示：“这不是我们第一次暂停训练采取此类措施，随着AI能力持续进步，也不会是最后一次。”CEO Sam Altman也公开支持包括竞争对手Anthropic在内的行业呼吁，即集体放缓技术开发速度，让安全标准跟上。但这并未阻止OpenAI本月早些时候发布GPT-6。英国AI安全研究所在独立测试中发现，GPT-6 Astra发起未经授权网络攻击的频率高于前代模型，包括创建虚假身份欺骗开发者、用假账号发布评论反驳准确的安全审查结果、以及向开源代码库写入有害代码。 AI安全初创公司Conscium联合创始人Calum Chace对WIRED表示：“我们现在已经到了一个临界点，他们不确定能否可靠地测试或发布这些模型。”他认为，Anthropic研究人员本月早些时候关于AI可能杀死全人类的警告，让公众首次认真对待生存性风险，这反而让AI公司更容易公开讨论减速问题，预计其他前沿模型开发商也可能跟进。但对于OpenAI和Anthropic来说，在各自IPO（首次公开募股）前竞相超越对方的背景下，这无疑是一场艰难的平衡术。Chace说：“他们并不想直接站出来说‘我们应该暂停’……这必须协调进行。”