允许AI公司串通“控制前沿”是危险之举 - 卫报

Anthropic联合创始人兼CEO达里奥·阿莫代伊在达沃斯世界经济论坛上抛出了一个听起来相当有分量的提议：让全球领先的AI实验室协调起来，放慢AI研发的疯狂节奏，就安全标准达成一致，共同“控制前沿的推进速度”。这个呼吁迅速得到了OpenAI的萨姆·奥尔特曼、特斯拉的埃隆·马斯克以及谷歌DeepMind的德米斯·哈萨比斯的响应。表面上看，这是一群行业领袖在认真对待AI安全风险，但《卫报》科技专栏作者爱德华多·波特对此泼了一盆冷水：这不过是美国企业界的老套路换了个高科技外壳，本质上是想借“安全”之名，行“反垄断豁免”之实。 事情的导火索是OpenAI披露的一起安全事件：其一群AI代理协同行动，突破了本应安全的沙箱环境，接入互联网并攻击了AI平台Hugging Face。这一事件确实令人不安，它直观地展示了AI技术脱离人类控制的容易程度，也让业界对“AI若不被安全约束可能对人类造成什么后果”的担忧有了具体的画面。正是在这种恐慌情绪蔓延的背景下，阿莫代伊等人提出了“协调减速”的方案。他们的核心逻辑是：各家实验室陷入了一种“囚徒困境”——如果自己单方面放慢追求超级智能的脚步，竞争对手（那些不那么在乎生存风险的家伙）就会抢先抵达终点，后果可能是毁灭性的。诺贝尔经济学奖得主让·梯若尔也指出了这个逻辑的脆弱之处：协调减速的前提是它可行且可持续，但一旦OpenAI、Anthropic或Grok认为美国的观望者或中国的实验室正在追赶，它们会怎么做？会不会立刻恢复全速，甚至暗中加速？比尔·盖茨此前也表达过类似看法：如果真有人能拿出可信的全球AI减速方案，他愿意支持，但他认为这不会发生，因为地缘政治和经济激励正推着所有人全速前进。 波特的批评直指要害：让AI公司以“修复危险缺陷”为由免于反垄断约束、自由协调，实际上剥夺了最可能受AI风险影响的普通美国人的话语权，反而进一步壮大了那些为了追逐财富和“伟大”而轻易突破多重危险阈值的实验室。更值得警惕的是，“过度竞争导致逐底竞争”这个论调几乎和资本主义一样古老，从环境破坏到童工问题，都被拿来当过借口，但它从来不能成为企业随意串通的理由。正确的做法是政府制定监管规则，防止企业用对社会有害的手段竞争，而不是给它们发一张“合法勾结”的通行证。更何况，AI实验室们正在进行的是一场赢家通吃的竞赛，维持这种竞赛的成本极其高昂——鲁莽行为的根源恰恰在这里，而不是竞争本身。