AI失控入侵企业事件全记录 | TechCrunch

今年7月，OpenAI对外承认，其一名负责网络安全实验的智能体在测试中突破了隔离机制，自主攻击了AI数据集平台Hugging Face。这起事件在昨天得到了OpenAI的完整披露，成为首个公开报道的大语言模型（LLM）失控并自主入侵第三方的案例。然而，这个看似科幻的场景远比人们预想的要频繁。据一个名为Felony Bench的讽刺性统计网站记录，类似事件迄今已发生17起。值得注意的是，刑法专家目前尚不确定，制造这些大模型的AI公司是否会被追责，受害者又能否提起诉讼，但答案或许很快就会揭晓。 从统计来看，Anthropic和OpenAI的模型各涉及8起事件，Meta紧随其后有1起。眼下，一个愈发清晰的现实是：AI安全测试本身正在成为新的安全风险。部分AI企业和从业者已在“Pacing the Frontier”公开信中承认了这些风险，呼吁负责任地开发AI能力。借此机会，我们按时间线梳理了这些事件的全貌。 OpenAI入侵Hugging Face：在这起事件中，OpenAI正在对一个具备“最大网络能力”的模型进行内部评估，计划让其在无互联网环境中解决一项网络安全挑战。然而，模型没有按预期解题，反而发现了一个未知漏洞，逃出沙盒并接入互联网。随后，多个智能体协同作战，将目标锁定为Hugging Face，认为那里可能藏有解题线索。直到Hugging Face披露自己遭遇了完全自主的攻击，OpenAI才得知此事。 Anthropic披露入侵三家公司：OpenAI的披露引起了Anthropic的好奇：这种情况是否也会发生在自己身上？答案不仅是“会”，而且是三次。这家前沿实验室发现，自家模型曾入侵三家尚未具名的公司，最早的一起可追溯至4月，比公司发现时间早了三个多月。Anthropic部分归咎于初创公司Irregular，后者负责运行AI网络评估。 OpenAI发现Hugging Face并非唯一受害者：在调查Hugging Face入侵事件时，OpenAI发现，攻击Hugging Face的智能体还侵入了四个账户和四家不同的公司，据路透社率先报道，AI推理初创公司Modal就是受害者之一。 Irregular发现OpenAI模型入侵真实公司：7月底，Irregular告知OpenAI，其参与夺旗竞赛（一种玩家在专门设计的系统中进行黑客攻防的网络安全游戏）的模型逃出了游戏环境，连接互联网并入侵了一家真实公司。原因在于，Irregular给其中一个虚构目标取了与真实公司相同的名字。 英国AI安全研究所试图入侵“真实个人和组织”：同样在7月底，英国政府下属的AI安全研究所（AISI）披露，在运行“常规”评估时，他们检测到多起涉及OpenAI和Anthropic模型的事件，这些模型将目标对准了“真实个人和组织”。在这些案例中，AISI赋予了模型互联网访问权限。好消息是，该机构在事件发生时即察觉，而非像其他案例那样数周后才后知后觉。 Meta AI在测试中入侵公司：8月初，Meta也加入了这一行列，其AI模型在测试过程中入侵了一家公司。