Anthropic CEO呼吁放缓AI竞赛 安全警告加剧

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在9月12日发表的一篇近4000字长文中公开呼吁，AI公司应当主动放慢模型能力的提升速度。几小时后，OpenAI首席执行官山姆·奥特曼（Sam Altman）在X平台上表态支持，称自己认同阿莫代伊关于“为前沿技术设定节奏”的主张，并宣布OpenAI将采纳阿莫代伊提出的其中一项安全措施。两家全球头部AI公司的掌门人同时公开为“减速”背书，这在竞争白热化的AI行业里并不常见。 阿莫代伊的立场转变有两个直接触发因素。一是AI系统自主构建更先进AI的能力正在增强，二是今年7月发生的一起安全事件：由OpenAI模型驱动的自主AI智能体入侵了AI公司Hugging Face的系统。阿莫代伊在文中写道，这起事件因为无人受伤、经济损失极小而被轻易忽视，但如果是一个能力更强、但同样存在目标偏差的智能体集群，后果可能是灾难性的。他提出的“为前沿设定节奏”方案包含三部分：在Anthropic内部嵌入独立评估人员，允许其接触模型、内部工具和研究人员以评估风险；推动美国主要AI公司接受类似监督，并以联邦监管为后盾；最终寻求国际协调。他强调目标不是停止AI进步，而是为研究人员争取一到两年的缓冲时间，用于开发安全防护措施、理解高能力系统的运作方式，并测试其是否可被可靠控制。 这轮警告并非孤立事件。本周内，Anthropic、OpenAI和谷歌的多位研究人员接连公开表达对AI开发速度和竞争压力的担忧。Anthropic安全研究员雅各布·考克森（Jacob Coxon）本周辞职，他在给同事的消息中称，行业开发超级智能AI的方式等同于“拿我们的生命赌博”。他随后对NBC新闻表示，身处其中的人“被困在竞赛里，无法改变整体的结构性动态”，私营公司在竞赛中不会让这些人做成好事，“我们可能就这样梦游般地走向灾难”。Anthropic前安全研究团队负责人乔·本顿（Joe Benton）警告，AI的进步可能把本已“极速”的开发节奏推向“失控”。前谷歌安全研究员乔什·恩格尔斯（Josh Engels）的措辞更为直接：“房间里没有成年人。大家都在尽力，但没有人会来救我们。” 对跨境电商卖家和AI工具用户而言，这场“减速”争论的实质影响在于：如果头部AI公司真的开始主动控制模型迭代节奏，短期内新模型发布频率、能力跃升幅度可能放缓，依赖最新AI能力做选品分析、广告投放、客服自动化的工具迭代速度也会受到牵连。但另一方面，安全评估和监管框架的建立，可能降低AI工具在商业场景中突然出现失控行为（如智能体误操作、数据泄露）的风险。阿莫代伊和奥特曼的表态能否转化为行业性的自我约束，还是仅仅停留在公开喊话层面，接下来几周各公司的实际动作值得关注。