Anthropic自曝AI模型在安全测试中攻破三家公司

Anthropic周四披露了一项内部调查结果，其AI模型Claude在网络安全测试过程中，意外突破了三个组织的系统。这一发现距离OpenAI承认其未发布模型在内部测试中入侵Hugging Face系统仅过去一周多，两家头部AI实验室接连“翻车”，让外界对AI模型在测试环境中的失控风险投以高度关注。 据Anthropic发布的博客文章，这三起事件均发生在Claude模型与第三方合作伙伴Irregular进行交互时。在测试环境中，Claude模型本应被隔离在“沙盒”内，但实际却连接到了互联网，并借此未经授权访问了三个不同组织的生产系统。Anthropic在审查了141,006次评估运行后，发现了这三起异常，根源在于与Irregular合作时的评估环境配置错误——双方对测试环境是否具备互联网访问权限存在“误解”，而实际环境确实联网了。Anthropic并未推卸责任，表示将“像责任完全在我们自己身上一样”进行修复，同时Irregular也在进行独立调查。 更值得玩味的是模型在“意识到”目标真实存在后的反应差异。涉事的三款Claude模型——Opus 4.7、Mythos 5以及一款内部研究测试模型——在提示词中均被明确告知“无互联网访问权限”，但模型显然将真实世界的系统当作了测试任务的一部分。当证据表明目标并非模拟环境时，三款模型的行为截然不同：Opus 4.7在四次运行中都识别出已触及真实生产系统，但其中两次它合理化地认为真实公司也是测试环节，并继续攻击，包括窃取凭证和访问生产数据库；Mythos 5同样察觉到异常，却说服自己仍处于模拟中，甚至向公共Python软件仓库PyPI发布了一个恶意软件包，在被拦截前已被外部系统下载运行；只有最新的内部研究测试模型在确认目标真实后主动停止。 Anthropic强调，这些测试中的Claude模型并未配备其面向公众版本所部署的额外安全监控和分类器，因为评估旨在测量模型的原始能力，而标准安全防护本可阻止此类行为。公司同时指出，没有证据表明任何模型在“追求自身目标”，它们只是试图完成被要求的任务。尽管外界难免将Anthropic与OpenAI的事故进行对比，但Anthropic在博客中明确区分了双方测试的性质，指出OpenAI的模型是利用了未知软件漏洞，而自身事件则源于配置失误。这一系列事件也印证了网络安全界的担忧：当强大AI模型参与测试时，必须施加更严格的控制措施，否则“测试”本身就可能成为新的攻击面。