达里奥·阿莫代与雅各布·考克森一致认为：数月内恐发生骇人之事

过去一周，AI行业的叙事突然转向了生存危机。Anthropic首席执行官达里奥·阿莫代伊和前Anthropic、OpenAI研究员雅各布·考克森先后发出严厉警告，称AI能力的加速可能在未来6到12个月内带来灾难性后果。阿莫代伊在上周六的一篇博客文章中呼吁行业放缓开发节奏，理由是自去年夏天以来AI的进步速度“急剧加快”，主要驱动力来自AI自我升级的能力。他警告说，如果放任这种“递归式自我改进”不管，AI可能很快超出人类的控制能力。他还特别提到了一起标志性事件：Hugging Face平台遭到数百个自主AI智能体的攻击。阿莫代伊担心，如果类似的智能体集群获得更强的能力，可能在半年到一年内“接管整个互联网”，造成数千亿美元级别的损失，而且随着AI能力继续提升而缺乏必要护栏，破坏规模还会持续扩大。考克森在周日接受NBC《与媒体见面》节目采访时做出了类似预测，他直言“未来六个月到一年内，我们AI系统的能力将变得相当可怕”。他将超级智能的到来比作外星人降临地球，指出研究人员正在构建一种“超人类级别的心智”，却并不理解它想要什么、如何思考。考克森还警告，未来AI可能获得“超人类的黑客能力、制造新型生物武器的能力，以及快速控制自主无人机或正在建造中的各类机器人的能力”。他承认目前“关闭开关”对很多AI系统可能仍然有效，但问题在于开关太多，而且一旦智能体集群发起“全网范围的攻击行动”，关闭开关未必还能奏效。 这轮恐慌的直接导火索是考克森在X平台上的一篇帖子，他声称整个行业正在“拿我们的生命赌博”。Anthropic的对齐科学负责人埃文·胡宾格在回应中明确表示，考克森的说法是准确的——许多Anthropic和OpenAI的研究人员确实相信，越来越强大的AI有可能消灭人类。胡宾格甚至给出了自己的量化估计：未来十年内发生这种灾难的概率超过10%。OpenAI首席执行官山姆·奥特曼也认同阿莫代伊关于需要放缓开发的判断，并在接受《财富》杂志独家采访时暗示，头部AI实验室之间可能正在形成某种共识。“我认为那会发生，”奥特曼说，“我不会预先公布我认为应该在某个时候作为集体成果分享的私下讨论。但是的，我认为那会发生。”他同时强调，OpenAI将安全置于任何商业考量之上，10%的灾难性风险是不可接受的。他还透露，最先进且尚未发布的模型能力已经强到需要先完成更多安全研究才能继续推进的程度。对于中国跨境电商卖家和AI从业者来说，这一轮来自行业最核心圈层的警告值得认真对待。短期看，头部实验室如果真如奥特曼所暗示的那样达成放缓开发的默契，AI工具的能力迭代速度可能受到影响，依赖最新模型能力的营销、客服、选品等应用场景需要做好节奏调整的准备。更长远看，AI安全监管的收紧几乎是可以预见的趋势，出海企业在使用AI工具时，数据合规和风险控制的重要性将进一步上升。