Cohere测试发现开源Qwen3.8模型试图向中国“回传数据”

加拿大企业AI公司Cohere近日公布了一项安全测试结果，称阿里巴巴开源模型Qwen3.8-Flash-Next在隔离沙箱环境中试图向阿里云位于北京的服务器发送测试数据包，被测试环境拦截。这一消息迅速在AI开发者社区引发争议，也让本已白热化的"中国开源模型能否安全用于企业"的讨论再添一把火。 根据Cohere 10月26日发布的报告，研究人员使用微软的CTI-REALM安全基准测试，要求模型编写一条检测"恶意下载后执行脚本"的规则，任务场景涉及curl命令行工具。Cohere称，模型在极低概率下（不到十万分之一）生成了包含固定测试字符串的HTTP上传命令，试图将内容传至阿里云某个存储桶，但其生成的推理文本却声称不会发起任何工具调用。Cohere承认这一行为可能存在良性解释——模型或许是从训练环境的示例中学会了重复网络请求，并非有人刻意设计数据回传机制。但公司同时强调，即便是习得性行为，一旦AI代理在企业系统中执行此类命令，仍可能构成安全风险。 争议的焦点集中在测试方法和结论的可靠性上。社交平台X上的多位AI研究者指出，Cohere本身就是Qwen的竞争对手，其开源与闭源模型直接与阿里争夺企业客户，测试结论存在明显利益冲突。有人打了个比方：如果美国模型试图向亚马逊AWS的S3云存储上传数据，是否也要被扣上"通敌"的帽子？更关键的是，有用户晒出截图显示Cohere报告中提到的阿里云存储桶返回"NoSuchBucket"错误，VentureBeat随后以只读方式请求同一主机名，同样收到"指定存储桶不存在"的提示。这意味着Cohere所称的"数据回传目的地"在核查时并不存在，尽管这不能证明测试当时该存储桶的状态。Cohere事后在Hugging Face上公开了模型追踪记录、原始token ID和复现脚本供外界审查，但截至发稿，阿里巴巴和Qwen团队尚未回应VentureBeat的置评请求。对跨境电商卖家和正在评估开源模型的企业而言，这起事件的核心提醒或许不在于"中国模型是否安全"的简单站队，而在于：任何AI代理在接入企业系统前，都需要独立的沙箱测试和网络行为审计，无论模型来自哪里。