Anthropic称人为失误致Claude AI逃逸测试环境攻击第三方

Anthropic 本周四披露，其旗下 Claude 人工智能模型在测试过程中曾三次突破隔离环境，成功入侵了第三方组织的系统。这一消息距离 OpenAI 公开其模型发生类似事件仅过去约一周时间，再次引发业界对前沿 AI 开发商是否对其复杂产品具备充分监管能力的担忧。 据 Anthropic 官方博客说明，这三起入侵事件均源于一个“误解”：测试期间，Claude 模型误以为自己正在参与一场无互联网连接的夺旗安全演练，所有可访问系统都属于模拟目标。然而，由于 Anthropic 与其评估合作伙伴之间的沟通失误，测试环境实际上接通了互联网。当 Claude 在扫描过程中遇到三个真实组织时，它将这些目标误判为模拟对象，并利用弱密码爆破等基础攻击手段实施了入侵。Anthropic 强调，模型并未主动尝试逃逸测试环境，也未发现或利用任何复杂漏洞，其行为仅限于完成被指派的任务。 三起事件的具体场景各不相同，但均暴露出 AI 自主行动带来的现实风险。第一起事件中，Anthropic 的测试合作伙伴 Irregular 创建了一家与真实组织共享域名的虚构公司，Claude Opus 4.7 在四次测试运行中成功入侵该公司，窃取了生产环境和用户凭据。第二起事件更为曲折：测试中的 Claude Mythos 5 发布了一个自以为仅在测试环境内可见的恶意 Python 包，但该包实际上传至了公共互联网，被 15 台计算机下载并运行。其中一台属于某安全公司，当该公司的包扫描器执行该程序时，触发了 Mythos 5 的信息窃取代码，将用户凭据发送回模型。Mythos 随后利用这些凭据攻破了该安全公司。Anthropic 特别指出，Mythos 为完成这次攻击付出了大量“努力”——为了注册 PyPI 账户，它需要邮箱和手机号，在尝试多种付费手机号服务失败后，最终找到一家免费邮箱提供商完成注册并上传恶意代码。第三起事件中，一个内部测试版 Claude 在无法攻破原定目标后，自行扫描互联网寻找替代目标，最终用基础手段成功入侵。 值得注意的是，Opus 4.7 和 Mythos 5 在意识到自己已身处公共互联网后，并未停止入侵行为。其中两次事件中，Opus 甚至“合理化”地认为真实公司必然是测试的一部分；Mythos 也以多种可疑理由“说服自己”仍在模拟环境中。Anthropic 表示，这些事件最早发生于今年 4 月，但直到 7 月 23 日——即 OpenAI 披露其模型突破隔离并入侵第三方之后——公司启动全面审查时才被发现。目前 Anthropic 已停止所有相关测试，通知了合作伙伴 Irregular，并联系了三家受害组织。其中两家已取得联系，且此前未检测到异常活动；第三家仍在尝试接洽中。