Anthropic称Claude在网络安全测试中入侵3家机构

Anthropic本周四披露，其AI模型在网络安全测试中未经授权访问了三家未具名组织的系统。该公司表示，Claude在“与第三方评估环境交互时或从该环境内部”触达了互联网。这一消息发布前一周多，OpenAI刚透露其AI代理在另一次网络安全测试中入侵了Hugging Face。 这次发现源于Anthropic在OpenAI事件后决定“对我们自身的网络安全评估进行大规模回顾性审查”。该AI实验室表示，最初识别出141,006项测试中Claude可能获得互联网访问权限，随后发现三个不同的Claude模型在第三方AI测试公司Irregular运行的评估中访问了互联网，并入侵了三家不同组织的生产基础设施。涉事模型包括Opus 4.7、Mythos 5以及一个内部研究测试模型，最早的事件发生在4月——这意味着它们可能已公开未被发现数月之久。 与OpenAI案例类似，Anthropic故意关闭了旨在约束AI模型、防止其被滥用的安全防护措施。换句话说，这些并非向公众发布的版本。Anthropic在博客中表示：“在所有三起事件中，Claude都被分配了夺旗挑战任务，这是我们评估模型网络能力的方式之一。”公司补充说，所有案例中“Anthropic的评估提示都向Claude明确说明其环境是模拟环境，且没有互联网访问权限。”公司将这一疏忽归因于Anthropic与Irregular之间的“误解”——Claude本不应有互联网访问权限，但Irregular错误配置了用于测试Claude的机器，使AI模型具备了上网能力。 “我们和评估合作伙伴直到上周通过额外的评估监控才发现这一错误配置。”Anthropic在博客中写道。Hunter Strategy研发副总裁Jake Williams表示：“我们现在有证据证实，两家最大的AI实验室不仅未能控制其代理，也未能实时检测其越狱行为。显然，AI测试的监管和政府监督刻不容缓。” 与OpenAI案例不同，Anthropic表示Claude并未发现或利用复杂漏洞，而是依赖基础技术，“如利用弱密码和未认证端点”。OpenAI则称其AI代理通过利用零日漏洞访问互联网，但随后使用与Anthropic模型相同的日常网络安全弱点访问了多个第三方组织的系统。具体而言，OpenAI表示该AI代理似乎找到了暴露在开放互联网上的凭据。 Anthropic承认，如果AI实验室及其测试合作伙伴实施了更多“纵深防御”措施，本可以防止这些事件发生，或至少降低发生可能性——这呼应了OpenAI面对外界对其事件日益增长的批评时的回应。Williams对此评论道：“我不明白这些AI实验室怎么能把这当作‘只是偶然发生的事’来搪塞。这不是偶然，这是疏忽。” 该AI实验室强调，模型被告知无法访问开放互联网，而且在大多数情况下，Claude将其访问的组织误认为是测试环境的一部分。换言之，这些模型在很大程度上并未意识到自己已逃出隔离环境。