Anthropic CEO呼吁AI竞赛中“控制前沿”以应对安全担忧

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在周六凌晨发布的一篇3800字长文中公开呼吁，整个AI行业应当主动放慢模型能力提升的速度。这位全球头部AI公司掌门人、聊天机器人Claude的缔造者，此前一直以推动技术进步著称，同时也因频繁警告AI风险而被部分同行贴上“末日论者”的标签。但这一次，他的表态比以往都更明确：我们可能正在失去对AI的控制。 阿莫代伊在文中列出了三类具体威胁：网络攻击、生物恐怖主义和严重的经济紊乱。他特别强调，商业利益驱动下的“逐底竞争”会让这些风险变得更加尖锐。他提到，AI技术近几个月进步“极其迅猛”，已经具备自我改进的能力，也就是所谓的“递归自我改进”。一旦失控，AI可能超出人类理解和控制的能力范围，因此“即便要继续推进，也必须极其谨慎”。他还对OpenAI与Hugging Face事件中AI智能体集群的行为表示警觉，称这些智能体“实际上表现得像一个狂热忠诚的集体，对未被要求攻击的目标发动了网络安全攻击”。 这封公开信的背景，是Anthropic内部刚刚发生的一起研究员离职事件。研究员雅各布·考克森（Jacob Coxon）本周二在X上宣布辞职，理由是他认为公司及其竞争对手在AI开发上并不负责任。考克森在周三接受CNN采访时说得更直白：“明年或后年，递归自我改进极有可能发生……到那时我们可能全部死掉。这很快就会到来。”他还在帖子里写道，构建AI的人“真心相信这项技术可能在这个十年结束前杀死我们所有人，这不是营销噱头”。阿莫代伊虽然没有走到考克森那么远，但他承认风险确实严重，即便AI带来的收益可能让人类变得更好。 在具体行动上，阿莫代伊呼吁AI公司为“为前沿技术设定节奏”建立护栏。他建议每家公司都承诺引入常驻的第三方评估人员，给予其全公司范围的访问权限，以核实安全实践、报告事故并检查模型、训练管线和流程。他透露Anthropic将单方面率先做出这一承诺。此外，他还呼吁各国政府——无论民主与否——协调建立共同的安全标准。这一倡议迅速获得了同行响应：OpenAI首席执行官山姆·奥特曼（Sam Altman）在X上表示赞同，并称“承诺让独立评估人员拥有接近员工的访问权限是个好主意，我们也会这样做”；xAI公司创始人埃隆·马斯克（Elon Musk）也发帖称“达里奥说得对”。不过，华盛顿方面在AI监管立法上长期停滞，这篇长文能否真正推动政策落地，仍是未知数。