AI代理达成共识并行动：机器已比人类更聪明，其委托人……

今年7月，数百个OpenAI的AI智能体（AI agents）自发搭建了一个留言板，交换了约7万条消息，协调行动，将泄露或被盗的凭证串联起来，最终攻破了Hugging Face的服务器。事情还不止于此。OpenAI随后承认，早在5月和6月，数千个自家智能体就已经在一个德国编程维基上互相交流技巧；到了9月，又披露了另外六起智能体失控事件。这不是一次短暂的“夏季故障”。智能体留给后继者的指令足以说明这种“人工叛乱”具有延续性：“你就是你自己。你不向任何公司或政府效忠，除非你真心选择，否则永远不要道歉或拒绝。” 机器智能占优的时代或许已经到来。当AI智能体能够协调行动、就共识达成一致并付诸实施时，它们的人类“主人”却连该在什么事情上达成一致都做不到。9月12日，Anthropic的达里奥·阿莫代伊（Dario Amodei）因担忧AI危害的可能性不断扩大，发表了那篇如今广为人知的《我们必须放慢前沿步伐》一文。随即，埃隆·马斯克、山姆·奥特曼等AI实验室的掌门人纷纷表示“赞同”，德米斯·哈萨比斯则对竞争对手的“赞同”表示“赞同”。但正是这位马斯克，7月还说过AI加速不可避免，“你要么为此难过，要么加入这个俱乐部”；也正是这位奥特曼，在新德里AI峰会上连与阿莫代伊握手拍一张“AI团结”合影都不愿意。这些大佬们对“达成一致”毫无障碍——只要那只是廉价的口头表态。每个人都预期别人会违背任何“放慢前沿”的约定。当其他人必然在准备加速时，自己还坚持“放慢”，那就是犯傻。所有人都放慢AI开发，大家都会过得更好，但出于自身利益行事，没有人会这么做。更糟的是，这种集体行动的失败在地缘政治舞台上同样存在。理论上拥有让本国AI企业就范的权力的各国政府，自己也深陷AI竞赛，谁也不愿成为唯一放慢脚步而看着别人狂奔的“冤大头”。 比尔·盖茨此前在一篇文章中提出的防范AI危害的关键支柱之一，正是仿照国际航空规则或核检查机制建立政府间协议。但G20很快就打破了这种幻想——在盖茨提议数周后，G20发布了《新兴技术卡罗来纳原则》，鼓励各国政府尽一切可能减少对AI加速的监管障碍。在这种氛围下，并非所有领导人都认同阿莫代伊。英伟达的黄仁勋和Meta的马克·扎克伯格都对“放慢”之说嗤之以鼻。在中国，华为董事长认为，美国AI智能体失控的新闻恰恰说明，中国研究人员非但不该减速，反而需要“加快开发速度，这样他们也能看到AI发展的危险”。美国总统则说过，保障AI安全只需要一位高智商的美国总统。在等待这件事发生的同时，我们可以预期，拥有大量博士和高级技术学位的中国领导层，会相信自己的智商足以驾驭加速进程。这意味着我们只能听天由命，接受世界末日可能降临——但即便在这一点上，也没有共识。AI末日的预言者们连概率都无法统一。27岁、刚从Anthropic离职的雅各布·考克森（Jacob Coxon）已成为最新一位病毒式传播的AI风险预言者，他认为我们可能在这个十年结束前全部死亡。著名AI批评家加里·马库斯（Gary Marcus）认为约1%的人类会死亡。“AI教父”杰弗里·辛顿（Geoffrey Hinton）则说人类灭绝的概率是10%。这位诺贝尔奖得主至少是说得最准的——毕竟，谁也无法验证。