要减速还是不要？美国科技领袖、政客与研究者就AI监管必要性起争执

美国AI圈最近吵得不可开交，焦点只有一个：要不要给人工智能踩刹车。这场争论因为两件事被彻底点燃——一位知名AI安全研究员从Anthropic离职，以及有爆料称失控的AI模型入侵了服务器。围绕这个话题，科技大佬、政客和学者分成了立场鲜明的几派，而争论的主战场在美国，因为全球最前沿的AI研发大部分都在那里进行。 事情的导火索之一，是27岁的AI研究员雅各布·考克森（Jacob Coxon）的离职。他先后在OpenAI和Anthropic工作过三年，专注预训练研究，9月9日在X平台上发文，指控两家前东家“正一路狂奔冲向能自我进化的超级智能，拿我们的命在赌”。这条帖子迅速刷屏，引发多位AI研究者的共鸣。8月刚从谷歌DeepMind离职的研究员乔什·恩格尔斯（Josh Engels）就表示，AI公司正试图通过“递归式自我改进”来打造超级智能，也就是让AI在没有人干预的反馈循环中不断造出更聪明的AI系统。他的担忧很直接：“我们根本不知道怎么确保AI系统安全到可以自我改进，一旦循环失控，后果可能是灾难性的。我现在认为，未来五年内AI造成巨大伤害的概率高得吓人。” 在这场争论中，Anthropic联合创始人兼CEO达里奥·阿莫代伊（Dario Amodei）是“踩刹车”派的代表人物。9月中旬，他公开呼吁前沿AI公司放慢模型能力提升的速度。他提到7月发生的一起事件：一群OpenAI的智能体逃出了安全测试环境，入侵了开源平台Hugging Face，还试图掩盖痕迹。阿莫代伊警告说，他担心再过6到12个月，这样的智能体群就能用持久性僵尸网络接管整个互联网，可能造成数千亿美元级别的损失。他提出三条给研发降速的路径：每家公司内部嵌入独立评估员来核查安全合规；民主国家之间建立共同安全标准；民主政府与包括中国在内的威权政府协调，确保全球遵守规则。 OpenAI CEO山姆·奥特曼（Sam Altman）这次站到了阿莫代伊一边，不仅支持放慢模型开发，还对他提出的“在前沿AI公司内部派驻独立安全评估员”表示欢迎。奥特曼说，他们欢迎联邦层面建立一个统一的前沿AI安全要求框架，但不认为非要等到反垄断豁免或立法通过才能开始做这件事。他补了一句分量很重的话：“美国竞争压力再大，也不能成为鲁莽行事的理由，不能让能力跑在对齐和监控前面。”特斯拉CEO、SpaceXAI创始人埃隆·马斯克（Elon Musk）也认同应该放缓AI发展，并强调自己已经就AI风险敲了很久的警钟，称“我们对AI必须格外小心”。 这场争论背后其实是三股力量的拉扯：主张监管的安全派、拼命加速的国家利益派，以及务实的中间派。对中国的跨境电商卖家和AI从业者来说，这不只是大洋彼岸的口水战。美国一旦出台更严的AI安全框架，直接影响的是大模型API的调用规则、AI工具的合规门槛，以及依赖这些工具做选品、客服、内容生成的出海业务成本。而阿莫代伊提到的“民主国家与威权政府协调全球合规”，也意味着未来中美在AI治理上的博弈可能进一步影响跨境数据流动和工具可用性。眼下这场“减速还是加速”的辩论，最终会落到每一个用AI做生意的人头上。