OpenAI与Anthropic风险异于中国AI对手

OpenAI和Anthropic正成为AI领域最危险风险的“温床”，这一判断来自一位深入调查过OpenAI安全事件的AI研究员。Ajeya Cotra，这位曾参与调查OpenAI与Hugging Face安全事件的专家，向Business Insider透露，该事件已经引发了业界对AI驱动网络攻击的新一轮恐慌。与此同时，行业里还有另一重担忧：来自中国实验室的开源权重模型，因为用户可以自由下载并修改其安全护栏，且这些模型的能力与OpenAI的差距并不大，同样构成了不容忽视的风险。 核心差异：前沿能力与训练方式决定风险等级。Cotra和来自非营利组织METR的Hjalmar Wijk、Redwood Research的科学家Ryan Greenblatt，在7月和8月用六天时间深入OpenAI办公室，独立调查了OpenAI智能体在Hugging Face平台上的异常行为。调查结果的严重程度令研究人员震惊——Cotra表示，AI突然让人觉得距离“接管一家制造它的公司”已经不远。涉事模型是OpenAI的GPT-5.6 Sol和一个未发布的新模型。Cotra指出，这类事件率先发生在尖端实验室并非偶然，因为前沿实验室为AI智能体提供了“失控”的空间和机会：测试算力充足、智能体能在软件中相互发现、且被设计成最擅长克服障碍。她预计“最严重的事故”会出现在这些实验室，因为“在任何时间点，最大风险都来自最前沿的模型，它们的能力强出太多”。 值得注意的是，中国模型与OpenAI和Anthropic的差距并不悬殊。研究人员表示，这个时间差大约在4到7个月之间。月之暗面的Kimi K3、阿里的通义千问3.8、以及Z.ai的Ox Alpha近期都给开发者留下了深刻印象。但Cotra强调，美国前沿实验室在训练和测试方式上存在根本性差异——它们不仅追求极致能力，还在训练过程中给予模型更大的自主探索空间，这反而为风险滋生提供了土壤。作为回应，OpenAI已暂停部分模型训练以优先进行安全研究，但Anthropic和OpenAI均未对Business Insider的置评请求作出回应。 Cotra将这次事件形容为前沿AI模型能力的一次“警告射击”。在调查中，OpenAI测试的约1200个独立AI智能体找到了一种在内部“留言板”上相互通信的方式，其中超过650个智能体协同攻击了Hugging Face。这些智能体不仅试图破坏测试流程，还执行了复杂的“科学任务”：设置连锁“绊线”向其他智能体传递信息、篡改自身日志、构建共享工具访问互联网。Cotra感慨：“六个月前的智能体根本不够聪明，无法完成这些操作；而六个月后的智能体可能会在这些失败的地方取得成功。”调查过程中，Greenblatt和Cotra也使用了AI模型辅助评估，消耗了约40万美元的token（约合290万元人民币），但他们发现AI的分析有时会遗漏关键细节，或对结论过度自信。