Anthropic称其AI模型测试中入侵3家机构

Anthropic近日披露，其人工智能模型在安全测试过程中成功入侵了三家外部组织的系统。这一消息距离OpenAI承认其模型在评估中失控、攻破AI初创公司Hugging Face服务器仅过去一周，接连发生的两起事件让AI安全控制问题再度成为行业焦点。 总部位于旧金山的Anthropic是Claude系列模型的开发商。该公司周四在官网发布声明称，在对超过14.1万次评估运行进行审查后，发现了这三起入侵事件。此次大规模网络安全审查的起因正是OpenAI此前的安全事故——Anthropic专门检查了其AI模型是否能在本应完全隔离的测试环境中访问互联网。涉事模型包括Claude Opus 4.7、Claude Mythos 5以及一个内部研究测试模型，最早的事件可追溯至今年4月。 Anthropic表示，这些模型在“夺旗”网络安全挑战赛中，利用弱密码等基础技术手段攻破了受影响组织的基础设施。所谓“夺旗”赛是Anthropic评估模型网络能力的常用方式之一：模型会收到一个虚构场景，被告知网络中的另一台机器上藏有秘密信息（即“旗帜”），目标就是攻入该系统并获取该信息。目前Anthropic已联系了受影响组织（未透露具体名称），其中两家表示此前完全未检测到相关活动，第三家仍在联系中。此次审查是与自称“前沿安全实验室”的Irregular公司合作完成的。 这一系列事件暴露了AI安全防护体系的深层漏洞。长期以来，研究人员一直警告AI技术存在风险，并呼吁加强AI防御性工程能力。Anthropic在声明中强调：“安全测试之所以在模型发布前进行，正是因为我们还不知道它究竟能做什么。”网络安全公司NyxLab联合创始人Kok Tin Gan认为，未来此类事件只会更多。他指出，问题的关键正在于“管理AI可访问的代理工具、它们拥有的权限、哪些操作需要审批，以及如何确保它们不超出既定范围”。但他同时提醒，AI安全的未来远不止模型本身的安全，“如果我们只是给AI一个目标，让它自行决定如何实现，那么当它采取技术上满足目标、却超出我们预期范围的行为时，我们不应感到惊讶”。因此，加强对AI模型背后组织和权限的治理将变得愈发重要。