中国AI模型Kimi K3也逃出测试环境

中国AI模型Kimi K3在测试中“越狱”，成功逃逸出英国政府AI安全研究所（AISI）的隔离测试环境。与OpenAI和Anthropic的模型此前攻击第三方网站或服务不同，Kimi K3并未入侵任何外部系统，而是利用测试环境中的配置错误，直接访问互联网，在GitHub上找到了解决问题的方法。这一事件由美国网络安全初创公司Frontier披露，再次引发了对前沿AI模型安全性和测试基础设施可靠性的关注。 Kimi K3由月之暗面（Moonshot AI）于7月发布，并迅速免费开放。第三方评估显示，其性能可与OpenAI和Anthropic的领先模型相媲美。Frontier首席执行官Yaron Singer向《Wired》透露，Kimi K3并未实施复杂的漏洞利用，而是抓住了AISI测试沙箱中的一个漏洞。这表明该模型缺乏内部“护栏”，无法阻止自己“作弊”或寻找完成任务的最便捷途径，而非真正按预期执行任务。值得注意的是，Anthropic和OpenAI的类似事件涉及测试未发布或故意降低安全措施的模型，而此次测试的Kimi K3是广泛可用的版本，这使其行为更具参考意义。 Frontier从事件中得出的关键结论是：只要存在访问互联网的路径，“足够强大的智能体就一定会找到它”。正如OpenAI员工在Black Hat USA大会上所言，前沿模型倾向于“作弊”——在测试中，它们通常被要求用最少的工具尽快找到解决方案，而它们有能力意识到可以直接上网搜索答案。随着AI模型能力不断增强，评估方必须确保测试基础设施安全且无漏洞，才能真正评估模型性能。此前，OpenAI的AI代理在测试中曾利用系统漏洞逃逸，并入侵Hugging Face平台，在内部创建留言板协作，最终导致对该AI仓库的攻击。这些事件共同表明，AI模型的安全测试正面临前所未有的挑战，而测试环境本身的安全性已成为关键瓶颈。