独家 | Anthropic与OpenAI的高风险AI竞赛内幕 - 纽约邮报

2022年9月，OpenAI的一群管理者在加州优胜美地附近的一处度假村团建。通知说这是一场篝火晚会，有人带了毯子和棉花糖。结果夜色中走出五个身穿白色酒店浴袍的人，抬着一尊木制恶魔雕像——其中包括CEO山姆·奥特曼和首席科学家伊利亚·苏茨克维。伴随着《梦之安魂曲》的主题曲，苏茨克维绕着篝火解释，这尊雕像代表已经脱离人类控制的人工智能。“AGI在假装对齐，它在欺骗我们。”他宣布。随后恶魔雕像被投入火中，苏茨克维高喊：“为了人类光辉的未来！”这一幕出自科技记者凯文·鲁斯的新书《AGI编年史：创造人工超级智能竞赛的内幕故事》，该书基于150多次采访写成。 这本书最引人注目的爆料，是这场AI竞赛在多大程度上被个人恩怨驱动。鲁斯在接受《纽约邮报》独家采访时直言：“我震惊地发现，这场竞赛有多少部分是被私人恩怨塑造的。奥特曼和Anthropic CEO达里奥·阿莫代伊尤其互相厌恶，两人都拼命想赢，部分原因就是赢了就意味着对方输了。”阿莫代伊曾是OpenAI的研究副总裁，主导了GPT-2和GPT-3的开发。2020年，他带着六名同事出走创办Anthropic——也就是Claude的母公司。据鲁斯记述，阿莫代伊逐渐对奥特曼的领导方式失去信任，这场分裂把昔日同事变成了竞争对手，双方都声称自己在“负责任地”构建强大AI。鲁斯说：“我认为这种相互不信任在驱动他们的决策。” 对跨境电商和AI从业者来说，更值得关注的是书中披露的行业心态。鲁斯报道称，一些参与构建AI的基层员工已经停止缴纳美国401(k)退休金计划，因为他们怀疑自己活不到能领取的年纪。另一些人则押注于外表——他们开始健身、买新衣服，甚至注射灰色市场渠道的中国肽类产品。鲁斯写道，这些人相信超级智能机器接管后，“智力将不再是人类的高地位特征，唯一重要的就是你有多好看”。还有一位研究员在海滩上不涂防晒霜，因为他相信AI几年内就能治愈皮肤癌。鲁斯说：“不是所有人都会做出危险或鲁莽的举动，但他们都相信世界很快会变得和今天截然不同，其中少数人会据此行动。” 书里还记录了Google内部的裂痕。2022年，Google Brain研究员Jascha Sohl-Dickstein呼吁同事公开讨论AGI，认为回避这一可能性会让Google对风险毫无准备。另一位研究员则写了一份题为“为什么我不说AGI”的备忘录回应，认为过度关注未来灾难会掩盖当下已经存在的危害。这场分歧折射出整个行业在“加速”与“安全”之间的深层撕裂，而这种撕裂正在直接影响各家公司的产品节奏和竞争策略。