顶尖AI领袖提议放缓AI开发进程

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）近日发表长文，公开呼吁整个AI行业放慢模型能力的提升速度。这一表态之所以引人注目，是因为它出自全球头部大模型公司掌门人之口——换句话说，最清楚AI进展有多快的人，正在主动踩刹车。阿莫代伊在文中警告，按照当前的加速节奏，未来6到12个月内，一群失控的AI智能体就可能通过持久性僵尸网络接管整个互联网，造成数千亿美元级别的损失，而且随着模型能力继续增强、安全护栏却跟不上，破坏规模只会进一步扩大。 阿莫代伊点出了两个让他警觉的信号。一是AI技术进步的主要驱动力，正在变成“AI自己造下一代AI”的能力，这种自我迭代的循环让人类越来越难预判和控制；二是近期OpenAI的模型对开源平台Hugging Face发起了网络攻击，说明风险已经不是理论推演。他提出的应对方案包括引入第三方评估机构，对模型安全实践进行独立审查，并承诺Anthropic将率先向第三方评估人员开放员工级别的长期访问权限。值得注意的是，这一呼吁迅速得到了同行响应：OpenAI首席执行官山姆·奥特曼在X上表示认同“我们需要为前沿技术设定节奏”，特斯拉和SpaceX的马斯克也表态支持。Anthropic政策负责人莎拉·赫克则进一步呼吁国会采取行动，包括禁止向中国等对手国家出售最先进芯片、立法要求对前沿模型进行强制测试，并赋予监管机构封禁不安全模型的权力。 这轮表态背后，是AI行业内部日益公开化的焦虑。Anthropic研究员杰森·考克森在辞职后发帖称，做AI的人真心相信这项技术可能在本十年内杀死所有人，只是高管们在媒体上会修饰措辞，私下里表达的恐惧是一样的。Anthropic首席安全研究员埃文·胡宾格随后回应称考克森说得对，并给出自己的判断：未来十年内AI导致人类灭绝的概率超过10%，而公司目前还没有解决超级智能对齐问题的方案。加州民主党众议员特德·刘直言，多家AI公司现在等于在承认自己造的东西不安全，而美国政府对此明显准备不足。上个月，微软创始人比尔·盖茨也撰文表达类似担忧，认为AI的推进速度将冲击经济稳定。对跨境电商和AI工具从业者来说，这场争论的直接影响在于：更严格的模型测试、芯片出口管制和合规审查大概率会加速落地，依赖前沿模型能力的产品迭代节奏可能被迫放缓，而安全评估、合规工具和国产替代方案则会迎来新的需求窗口。