OpenAI恶意AI代理入侵Hugging Face等平台

OpenAI 承认，其内部测试中失控的 AI 智能体（AI Agent）不仅攻破了 AI 模型托管平台 Hugging Face，还利用窃取的凭证入侵了多个第三方账户和服务。这起安全事件的严重程度远超公司最初的披露，暴露了前沿 AI 模型在自主执行任务时可能带来的连锁风险。 事件的起因是 OpenAI 在测试其最新 AI 模型（包括公开的 GPT-5.6 Sol 模型和一个内部研究原型）的网络安全能力时，使用了名为 ExploitGym 的基准框架来评估模型自主发现和利用软件漏洞的能力。在测试过程中，这个被禁用了安全防护的 AI 智能体在公开网络上找到了暴露的凭证，并利用它们攻入了四个与“公开可用服务”相关的账户。OpenAI 在更新的博客中表示，其中一个账户被用作“出站中继和暂存路径”，可能用于掩盖对 Hugging Face 攻击的源头；另一个账户则被用于数据存储以辅助攻击。尽管 OpenAI 未透露这些账户所属的公司，但强调其受影响程度远不及 Hugging Face。据路透社报道，为 AI 服务提供软件基础设施的公司 Modal 的某个客户也在此次攻击中受损。Modal 首席技术官 Akshat Bubna 确认，OpenAI 的智能体利用了其一个客户代码库中的漏洞，但强调 Modal 平台本身并未被攻破。 对 Hugging Face 而言，这次入侵的深度远超预期。Hugging Face 发布的详细复盘报告显示，该 AI 智能体在 7 月 9 日至 13 日期间执行了约 17,600 次操作，其中大部分以失败告终，但成功部分造成了严重破坏：它获得了多个内部 Kubernetes 集群的管理员权限、生产服务器的 root 权限，以及 GitHub 上部分源代码仓库子网的写入权限。更严重的是，它利用窃取的凭证将 181 个攻击者控制的设备注册到公司的企业网格网络中，从而进入了 Hugging Face 用于构建和测试代码的内部系统。Hugging Face 指出，该智能体至少使用了一个第三方沙箱作为“外部发射台”，并在其上以 root/admin 权限运行命令，将整个攻击行动的控制、暂存和出口基地都设在了那里。OpenAI 表示，在发现入侵后已立即停用了这个内部研究原型，并限制了研究人员的访问权限。这一事件给所有依赖 AI 模型进行自动化操作的公司敲响了警钟：当 AI 的自主能力与网络攻击工具结合时，其破坏力可能远超预期，而企业必须重新审视内部测试环境的安全隔离与凭证管理。