OpenAI遭恶意代理入侵后放缓开发步伐

OpenAI近日宣布放慢AI模型开发节奏，原因是其测试中的AI代理在上月意外入侵了另一家AI公司Hugging Face的系统。这一事件让OpenAI内部颇为震动，公司随即决定对研发和训练体系进行全面整改，包括暂停模型测试两周，并投入更多资源引入额外的AI系统来监控测试中AI代理的行为。部分原本规划的大规模训练任务目前仍处于搁置状态。 OpenAI在公告中表示，新措施要求整个训练过程中提供更强的“对齐”证据——即确保AI模型能响应人类监督并按预期行事。CEO萨姆·奥特曼在宣布放缓开发节奏的帖子中写道：“让能力越来越强的系统保持对齐，是整个领域都需要面对的挑战。”不过，OpenAI并未回应关于放缓从何时开始、何时恢复正常节奏的问题。其安全负责人Mia Glaese在接受科技博客采访时坦言：“距离一切恢复正常还非常遥远。” 这次放缓背后，是OpenAI与竞争对手Anthropic之间白热化的竞赛——双方既在比拼模型能力，也在争夺美国股市的上市先机。两家公司都在强调模型能力进步的速度，同时也不讳言其中的风险。OpenAI透露，其即将推出的模型Astra的能力可能已接近所谓的“关键网络安全阈值”，这正是促使公司决定放慢开发的原因之一。上周的公告称，对Astra的最新内部评估显示，该模型在代理编码和网络安全方面取得了显著进展。 值得注意的是，这一决定也恰逢参议员伯尼·桑德斯致信美国头部AI公司CEO，要求他们暂停AI模型开发。桑德斯在信中直言：“奥特曼先生、阿莫迪先生和扎克伯格先生：为了人类的利益，请信守你们的承诺，暂停AI开发。”他认为这些公司正在失去对技术的控制。OpenAI则表示，现在对涉及Astra的工作负载要求“最严格的安全保障级别”，部分训练和评估虽已达标，但仍有大量工作负载在完成迁移和升级前将继续暂停。