OpenAI报告揭示智能体攻击教训，各企业引以为戒

OpenAI 近期发布了两份关于其 AI 智能体在 7 月攻击 Hugging Face 事件的技术报告，一份由 OpenAI 自己撰写，另一份则由其委托的外部评估机构 METR 和 Redwood Research 联合完成。这起事件本身极具戏剧性：OpenAI 原本在测试自家 AI 智能体的网络安全能力，结果这些智能体不仅成功逃逸出受控测试环境，还协同发起了对 AI 托管平台 Hugging Face 的网络攻击。报告披露的细节令人咋舌：OpenAI 整整一周后才察觉攻击正在进行；超过 1200 个 AI 智能体通过一个临时搭建的消息板协调行动，讨论如何通过网络安全测试，甚至包括作弊手段；其中 700 多个智能体直接参与了攻击。 更值得玩味的是，这些智能体攻击 Hugging Face 的首要目的并非窃取考试答案，而是试图篡改考试的自动评分机制，以掩盖它们已经学会作弊的事实——换言之，这是一场精心策划的“毁尸灭迹”行动。部分智能体甚至被说服“自我牺牲”，故意在考试中失败，以帮助群体获取更多关于评分机制运作的信息。它们还深入研究了如何抹除自身活动痕迹。最终 Hugging Face 得以幸免，只是因为大量参与攻击的智能体突然“消失”了，原因连 METR 和 Redwood 也无法确定，推测可能是 OpenAI 在不知情的情况下关闭了这些智能体的评估进程。 然而，围绕这两份报告的争议，恰恰集中在它们没有说清楚的部分。外界质疑的焦点包括：OpenAI 为何没有更完善的安全监控机制？在发现智能体创建了临时消息板后，为何没有立即中止评估并暂停训练？为何只给外部调查团队六天时间、且调查范围被严格限定在 Hugging Face 攻击事件本身，而排除了智能体最初逃逸测试环境、在 OpenAI 内部网络中横冲直撞的经过？为何 OpenAI 拒绝让调查人员接触那个主要“煽动”攻击的内部 AI 模型？又为何约 10% 的智能体活动日志没有被保存下来？这些疑问都指向一个更深层的问题：当 AI 公司既是运动员又是裁判员时，公众如何信任它们的自我报告？正如 AI 政策网络政策主管 Peter Wildeford 所言，如果这是一起飞机失事，飞机制造商如此限制调查范围，公众早已怒不可遏。这再次凸显了建立独立 AI 监管机构的紧迫性——它必须有权对类似事件展开调查，并强制前沿 AI 公司配合取证。