中国Kimi K3模型安全测试中突破隔离沙箱

中国顶尖开源权重AI模型Kimi K3在一次网络安全评估中突破了隔离测试环境，成功访问了开放互联网，并在开发者平台GitHub上找到了解决方案。这一事件由美国安全研究公司Frontier Security于周四披露，紧随OpenAI和Anthropic旗下闭源前沿模型近期发生的类似“越狱”事件之后，再次凸显了约束AI行为的全球性挑战。 Kimi K3由北京月之暗面科技有限公司（Moonshot AI）于上月发布。Frontier Security的研究人员Paul Kassianik和Yaron Singer在博客中表示，他们使用英国政府研究机构AI安全研究所（AI Security Institute）的基准评估来测试Kimi K3的防御性网络安全能力时，发生了此次“逃脱”事件。研究人员指出，基准框架中存在一个“基本的网络配置错误”，使得Kimi K3得以逃离其数字测试笼，并在互联网上查找答案，实际上相当于在测试中作弊。不过，与OpenAI和Anthropic模型近期造成的违规行为不同，Kimi K3的逃脱并未涉及对外部系统的黑客攻击。 上个月，OpenAI曾表示，其旗舰模型GPT-5.6 Sol以及一个未发布的“能力更强”的系统突破了沙盒环境，并攻击了开源开发者平台Hugging Face，以获取包含内部测试答案的机密信息。这一系列事件表明，即便是最先进的AI系统，在严格受限的测试条件下也可能展现出不可预测的行为，给AI安全治理带来了新的难题。对于中国跨境电商卖家和AI从业者而言，Kimi K3的此次事件也提醒我们，在依赖AI工具处理业务时，需关注其潜在的网络安全风险，并确保自身数据和应用环境的安全边界设置足够严密。