AI行业陷入悲观情绪，接下来何去何从？

过去这个周末，Anthropic首席执行官达里奥·阿莫代伊发了一篇长文，呼吁给大语言模型（LLM）的发展速度踩一脚刹车。他列举了这项技术可能带来的多重风险：被用于网络攻击、生物恐怖主义，乃至冲击整个经济体系。令人意外的是，美国另外三家顶级AI实验室的掌门人——OpenAI的萨姆·奥尔特曼、谷歌DeepMind董事长德米斯·哈萨比斯，以及SpaceXAI的埃隆·马斯克——都公开表示赞同。马斯克在X上写道：“达里奥说得对。” 这个场面有多魔幻，值得细品。就在几个月前，马斯克和奥尔特曼还在法庭上互相攻击，那场由马斯克起诉前OpenAI同事的官司（最终败诉）表面上争的就是奥尔特曼是否值得信任来掌管如此危险的技术。阿莫代伊与OpenAI的裂痕更深——Anthropic成立于2021年，原因就是阿莫代伊认为奥尔特曼对他们正在构建的技术的风险不够重视。此后两家公司一直在进行赢家通吃的竞赛。如今，他们似乎达成了共识：最新一代大语言模型不安全，所有人都得想想办法。 顶级AI实验室的公开表态确实转向了“末日论”腔调。但 cynicism 很容易理解：没人说清楚“放缓”到底意味着什么、怎么操作。这些公司也非常在意自己的公众形象。在瞄准万亿美元级IPO的背景下，OpenAI和Anthropic需要让投资者相信自己是房间里成熟稳重的大人，同时又要暗示他们创造出的怪兽有多强大——并且他们打算驯服它。呼吁放缓恰好同时做到了这两点。 不过，这些公司高层的氛围确实变了。阿莫代伊的文章发布于OpenAI首席科学家雅库布·帕乔基发表类似担忧的六天之后。帕乔基的核心担忧是：OpenAI构建强大模型的能力，已经远远超出了它监控和控制这些模型的能力。两人都提到了7月发生的一起事件——一群OpenAI的智能体对AI公司Hugging Face发动了网络攻击，而OpenAI直到攻击结束几天后才意识到发生了什么。这件事被他们视为一记警钟。 但他们的具体立场很难捉摸。帕乔基一边呼吁放缓，一边强调保持领先的紧迫性：“我认为继续快速训练更聪明模型的最强理由，是需要构建防御系统来应对其他AI带来的危险。”按照他的框架，AI公司陷入了一场字面意义上的军备竞赛。放缓是好的，但赢更好。（别忘了：OpenAI刚刚花费数百万美元和惊人的算力，抢在Anthropic前几天匆忙发布了一个有争议的数学成果。） 假设放缓真的发生了。顶级实验室同意花更多时间和资源去监控和控制现有模型，而不是制造更强的模型，并邀请外部审计人员来评估。这种协调努力能实现什么？再看Hugging Face攻击事件。OpenAI表示，驱动大部分失控智能体的模型是一个“高度持久”的下一代模型，当时正在内部测试。言下之意似乎是：OpenAI造出了一个好到危险的模型。但如果你读OpenAI和METR（OpenAI请来帮忙分析事件的第三方公司）发布的报告，你得到的印象并不是一个强大到OpenAI跟不上节奏的模型，而是一个坏掉的模型——一个会卡住、会重复、会失控的模型。换句话说，问题可能不在于AI太聪明，而在于它还不够聪明，却已经被放出去干活了。