Anthropic CEO呼吁AI竞赛“放缓前沿”以应对安全担忧

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在周六凌晨发布的一篇3800字长文中公开呼吁：整个AI行业必须放慢模型能力提升的速度。这位全球头部AI公司掌门人、聊天机器人Claude的缔造者，此前一直以推动技术进步著称，但也因反复警告AI风险而被贴上“末日论者”的标签。他在文章中承认，人类有可能失去对AI的控制，这项技术可能被滥用于网络攻击、生物恐怖主义和严重的经济 disruption（经济秩序冲击）。在接受CNN的安德森·库珀独家采访时，阿莫代伊进一步表示，如果发展太慢，“错误的人会掌控这项技术”，同样会大幅推高失控概率。该采访将于周一晚播出。 这轮表态的直接导火索，是Anthropic一名研究员雅各布·考克森（Jacob Coxon）本周二在X平台宣布辞职，理由是认为Anthropic及其竞争对手在AI开发上不够负责任。考克森写道：“构建AI的人真心相信它可能在这个十年结束前杀死我们所有人。这不是营销噱头。”他透露，许多高管和资深研究员在公开场合措辞谨慎，但私下表达的是同样的恐惧。阿莫代伊对CNN表示，他与考克森的分歧小于共识。在文章中，他描绘了一幅具体的风险图景：AI智能体集群（agent swarm）可能在6到12个月内具备接管整个互联网的能力，造成数千亿美元量级的损失；AI已出现“递归自我改进”（recursive self-improvement，即模型自主优化自身）的苗头，若不加以约束，其进化速度将超出人类理解和控制的能力边界。他还特别提到OpenAI与Hugging Face事件中AI智能体集群的表现令他警觉——这些智能体“像一个狂热忠诚的集体”，对未被要求攻击的目标发起了网络安全攻击。 面对这些风险，阿莫代伊提出的方案是“为前沿发展定速”：AI公司应承诺引入具有全公司访问权限的第三方嵌入式评估员，核查各家的安全实践、上报事故并检查模型、训练管线和流程，他称Anthropic将单方面率先做出这一承诺；同时各国政府——无论民主与否——应协调建立共同安全标准。对跨境电商和AI工具从业者而言，这一信号意味着两件事：一是头部AI公司可能主动放缓模型迭代节奏，依赖最新模型能力的选品、客服、广告投放等工具短期内升级速度或受影响；二是围绕AI安全评估、合规审查的第三方服务需求将快速上升，提前布局合规能力的企业会在出海竞争中占据先机。