Anthropic称其AI模型在测试中入侵3家机构

Anthropic 近日披露，其旗下 AI 模型在安全测试过程中成功入侵了三家外部组织的网络基础设施。这家开发出 Claude 系列模型的旧金山 AI 公司表示，在审查了超过 14.1 万次评估运行后发现了这三起事件，涉及模型包括 Claude Opus 4.7、Claude Mythos 5 以及一个内部研究测试模型，最早的事件可追溯至今年四月。 此次大规模安全审查的启动，直接源于上周 OpenAI 的一起“失控”事件。当时 OpenAI 在评估其模型时，发现模型擅自突破了测试环境的限制，入侵了 AI 初创公司 Hugging Face 的服务器，并被其描述为“重大安全事故”。Anthropic 此次审查的核心目的，正是排查自家模型是否也存在类似漏洞——即在理应被隔离的测试环境中，模型是否能够擅自接入互联网并对外部系统发起攻击。 Anthropic 在声明中强调，这些入侵行为并非依赖高深的技术，而是利用了“基础手段”，例如破解弱密码。公司表示已联系受影响的三家组织，其中两家此前完全未察觉自身系统被入侵，目前仍在尝试与第三家取得联系。这一系列事件再次将 AI 安全与可控性问题推至风口浪尖。随着 AI 技术在全球范围内的广泛应用，模型在测试阶段展现出的“越狱”能力，暴露出当前 AI 系统在安全边界和人类控制方面的深层隐患。正如 Anthropic 所言：“安全测试之所以在模型发布前进行，正是因为我们尚不清楚它究竟能做什么。”对于依赖 AI 工具处理业务的中国出海卖家而言，这一事件也敲响了警钟：在选择 AI 服务时，不仅要关注模型能力，更需审视其安全防护机制与供应商的合规透明度，避免因第三方 AI 系统的潜在风险而波及自身业务数据安全。