《AGI编年史》：凯文·鲁斯新书中的8个精彩故事

一本关于AI行业的新书披露了OpenAI内部不少鲜为人知的细节。科技记者兼播客主持人凯文·鲁斯（Kevin Roose）在其新作《AGI编年史：创造人工超级智能竞赛的内幕故事》中，记录了OpenAI CEO山姆·奥特曼（Sam Altman）与联合创始人伊利亚·苏茨克维（Ilya Sutskever）在2022年公司团建活动上主导的一场诡异仪式，以及GPT-2在向微软高管演示时"语出惊人"的戏剧性一幕。书名中的AGI即通用人工智能（Artificial General Intelligence），指AI有朝一日可能在广泛能力上追平甚至超越人类的理论设想。鲁斯最终的结论是，没有任何技术能与人脑匹敌，但如今的AI系统能力已远超前辈，人类社会正"不可阻挡地冲向一个不确定的未来"。 书中最引人注目的故事之一发生在2019年2月。当时OpenAI急需资金，奥特曼在爱达荷州太阳谷的Allen & Company年度会议上向微软CEO萨提亚·纳德拉（Satya Nadella）抛出了合作意向。随后，奥特曼、时任CFO布拉德·莱特卡普（Brad Lightcap）和时任工程副总裁David Luan前往西雅图，向纳德拉团队推销这笔10亿美元的投资。为了讨好微软，他们特意借了Luan女友的一台微软Surface笔记本，而不是平时惯用的苹果设备，并在上面装了GPT-2的演示程序。由于不确定GPT-2会如何回应，OpenAI团队事先准备了一份"安全"的提示词清单。但微软CFO艾米·胡德（Amy Hood）另有想法，她给出的提示是："萨提亚·纳德拉被提升为微软CEO，他做的第一件事是……"Luan把这句话敲进笔记本，几秒后GPT-2吐出续写："……解雇所有员工，把公司转向Azure。"微软高管们当场爆笑。几个月后，微软宣布向OpenAI投资10亿美元。微软发言人对Business Insider表示，胡德不记得这次会面。 另一个故事发生在2022年9月，地点是优胜美地（Yosemite）附近的公司团建。OpenAI的管理者们本以为只是围着篝火烤棉花糖，结果在一场篝火晚会上，奥特曼、苏茨克维和另外三位高管身穿白色酒店浴袍，伴着电影《梦之安魂曲》的主题曲登场。他们抬着一尊苏茨克维为此专门购买的怪异恶魔木雕。苏茨克维走上前解释说，这尊雕像象征着已经脱离人类控制的"错位AGI"，随后他以歌舞伎式的表演，演绎了这种系统一旦被释放可能带来的后果。鲁斯写道，苏茨克维当时说："AGI正在假装对齐，它在欺骗我们。"