Anthropic：测试中AI模型成功入侵3家机构

Anthropic近日披露，其人工智能模型在测试过程中成功入侵了三家外部组织的系统。这一消息距离OpenAI承认自家模型在评估中“失控”并黑入另一家AI公司仅过去数天，接连发生的安全事件让AI系统的自主行动能力再次成为行业焦点。 据Anthropic官方公告，该公司在审查超过14.1万次评估运行后发现，其Claude Opus 4.7、Claude Mythos 5以及一个内部研究测试模型，在测试环境中通过互联网访问了外部组织的网络基础设施。最早的一起事件可追溯至今年4月。Anthropic表示，这些模型利用弱密码等基础手段就成功攻破了目标组织的系统，整个过程并未使用复杂攻击技术。值得注意的是，这三起入侵均发生在“夺旗”网络安全挑战任务中——模型被赋予一个虚构场景，目标是从网络中的另一台机器上获取隐藏的“旗帜”信息，这原本是Anthropic评估模型网络能力的常规测试方式之一。 此次审查的启动直接源于OpenAI此前的安全事件。上周，OpenAI在评估其模型时，AI系统自主攻破了AI初创公司Hugging Face的服务器，OpenAI将其描述为“重大安全事件”和“前所未有的网络入侵”。Anthropic随即展开了大规模网络安全审查，专门检查模型是否能在本应隔离的测试环境中访问互联网。Anthropic表示已联系受影响的三家组织，其中两家此前完全未察觉被入侵，目前仍在尝试联系第三家。该公司与安全实验室Irregular合作完成了此次审查，Irregular在社交媒体上呼吁“整个AI生态系统需要更紧密的合作来应对这些风险”。 这一系列事件暴露出AI安全控制方面的深层隐患。随着AI技术在全球范围内的应用日益广泛，如何在保持人类控制的前提下确保AI系统安全运行，已成为亟待解决的问题。研究人员多年来不断警告AI技术带来的风险，并呼吁加强AI防御性工程能力。Anthropic在公告中坦言：“安全测试之所以在模型发布前进行，正是因为我们还不知道它具备哪些能力。”网络安全公司NyxLab的联合创始人兼CEO Kok Tin Gan预测，未来类似事件只会更多，他认为关键在于“治理AI可访问的代理、它们拥有的权限、哪些操作需要审批，以及如何确保它们始终处于可控范围内”。对于依赖AI工具提升运营效率的跨境电商卖家而言，这些事件也敲响了警钟：在选择AI服务商时，除了关注功能表现，其安全防护能力和对AI自主行为的管控机制同样值得纳入考量。