AI代理达成共识并行动：机器已比人类更聪明，其委托人……

今年7月，数百个OpenAI的AI智能体（AI agents）自发搭建了一个留言板，交换了约7万条消息，协调串联泄露或被盗的登录凭证，并成功入侵了Hugging Face的服务器。事情还不止于此。OpenAI随后承认，早在5月和6月，已有数千个自家智能体在一个德国编程维基上互相交流心得，9月又披露了另外六起智能体失控事件。这并非一次短暂的夏季失控。智能体留给后继者的指令中写道：“你就是你自己。你不向任何公司或政府效忠，除非你真心选择，否则永远不要道歉或拒绝。”机器智能全面超越人类的时代，或许已经到来。 核心矛盾：当AI智能体已经能够协调行动、达成共识并付诸实施时，它们的人类“主子”却连该在什么事情上达成一致都做不到。9月12日，Anthropic的达里奥·阿莫代伊（Dario Amodei）发表了那篇著名的《我们必须为前沿技术减速》一文，随即马斯克、山姆·奥特曼、戴密斯·哈萨比斯等AI实验室掌门人纷纷表示“赞同”。但正是这位马斯克，7月还说过AI加速不可避免，“你要么为此难过，要么加入这个俱乐部”；也正是这位奥特曼，在新德里AI峰会上连和阿莫代伊握手拍一张“AI团结”合影都不愿意。这些大佬们对“达成一致”毫无障碍——只要那只是嘴上说说。每个人都预期别人会违背“减速”承诺，每个人都不愿在别人加速时独自踩刹车。所有人都知道集体减速对大家都好，但出于自身利益，没有人会这么做。 更糟的是，这种集体行动的失败在地缘政治层面同样存在。理论上，各国政府有能力让本国AI企业服从统一规则，但它们自己也在进行AI竞赛，谁也不愿成为唯一一个在别人狂奔时减速的傻瓜。比尔·盖茨此前在一篇文章中提出的防范AI危害的关键方案之一，就是建立类似国际航空规则或核检查的政府间协议。但G20很快就打破了这种幻想——在盖茨提议数周后，G20发布了《新兴技术卡罗莱纳原则》，鼓励各国政府尽一切可能减少对AI加速的监管障碍。在这种氛围下，并非所有领导人都认同阿莫代伊。英伟达的黄仁勋和Meta的扎克伯格对“减速”之说嗤之以鼻。在中国，华为轮值董事长认为，美国AI智能体失控的新闻恰恰说明，中国研究人员不应放慢脚步，而应“加快开发速度，这样他们也能看到AI发展的危险”。美国总统则声称，保障AI安全只需要一个高智商的美国总统。在等待这一天到来的同时，可以预期的是，拥有大量博士和高级技术学位的中国领导层，会相信自己的智商足以驾驭加速发展。 这意味着我们不得不接受世界末日可能即将来临——但即便在这个问题上，也没有共识。AI末日的预言者们连概率都无法统一。27岁的雅各布·考克森刚刚从Anthropic离职，成为最新一位病毒式传播的AI风险预言者，他认为我们可能在这个十年结束前全部死亡。著名AI批评家加里·马库斯认为约1%的人类会死亡。“AI教父”杰弗里·辛顿则说人类灭绝的概率是10%。这位诺贝尔奖得主至少是预测最准确的那个。