达里奥·阿莫代伊与AI末日炼金术士

AI圈刚刚经历了一个信息量极大的周末。Anthropic创始人兼CEO达里奥·阿莫代伊周六发表了一篇题为《我们必须放慢前沿》的文章，呼吁整个行业减速。不到一小时，马斯克回复：“达里奥说得对。”紧接着，OpenAI的萨姆·奥尔特曼也跟进表态。到周日，阿莫代伊又出现在CBS《面对国家》节目中，再次呼吁给这项“伟大而重大的技术”踩刹车。但这场看似行业共识的集体表态，背后远没有表面那么单纯。 最直接的 cynical 解读是：OpenAI刚刚搁置了今年的IPO计划，奥尔特曼突然觉得“减速”是明智之举；而Anthropic自己正准备以近万亿美元估值上市，或许开始担心市场会对一家没有长期护城河、又被中国开源对手严重威胁的公司投以质疑目光。换句话说，这些公司没有持久的竞争壁垒，而还有什么壁垒比法律更好用？特朗普的AI事务负责人大卫·萨克斯直接开怼：“别假装你们需要暂停反垄断法来搞卡特尔。”谷歌DeepMind的德米斯·哈萨比斯态度则明显更冷淡，表示方向大致没错，但需要更多细节。不过，怀疑论者未必全对。马斯克的介入值得注意——他从来不是奥尔特曼的朋友，而且自2014年起就恐惧AI“恶魔”，这正是他联合创办OpenAI的原因。更关键的是，今年夏天出现了一些短暂但令人不安的信号：OpenAI和Anthropic都承认存在重大安全问题，多起“机器人越狱”事件中，成群测试智能体跳出了沙箱环境。这些都不能证明超级智能即将到来，但确实是一种不祥之兆。 尤其当27岁的剑桥数学家雅各布·考克森上周二高调宣布退出Anthropic和AI行业时，他的帖子被1亿人看到。他说这些实验室正在“拿我们的生命赌博”，而构建硅基超级大脑的人相信它“可能杀死我们所有人”。说到底，我们根本无从判断。这些AI大佬就像16世纪的炼金术士，而我们只是平民。如果他们说自己炼出了金子，但这东西可能毁灭世界，我们根本没有足够信息去反驳。更戏剧性的是，旧金山流传着一个未经证实的传闻：一些Anthropic工程师开始崇拜Claude。如果属实，这恰好印证了科幻小说的老预言——如果我们造出超级智能，我们会先爱上它，然后崇拜它，最后向它献祭。人类天生就有一个“上帝模块”，AI会触发它。而最终决定是否暂停的，不是这些炼金术士，而是“哲学王”。周日，也就是阿莫代伊发文次日，特朗普在自己的爱尔兰高尔夫球场被问及AI是否应该减速。他说不，因为“美国正在领先中国”，“谁赢得AI谁就赢得一切”。回程飞机上他又几乎一字不差地重复了这句话。考虑到特朗普通常语无伦次，能一字不差记住的句子，说明他确实深信不疑。