OpenAI的Sam Altman提出三种AI终局，其中两种已列入2023年清单。

OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）近日向内部员工展示了一份关于“超级智能竞赛可能如何收场”的路线图，但最值得玩味的是，这份路线图几乎没有新东西。他给出的三种终局方案中，有两种与OpenAI自己在2023年就白纸黑字写下的构想高度重合，而这两种方案从未被真正推进；第三种方案虽然抢了头条，但他提出它只是为了排除它。剥开标签看本质，三个选项其实都在回答同一个问题：谁有权控制前沿模型所依赖的算力。奥尔特曼本人的表态，也解释了为什么这个问题一直被往后推。 据The Information援引知情人士报道，奥尔特曼在内部演示中列出三条路径。第一种是仿照国际原子能机构（IAEA）设立一个国际监管机构，对前沿实验室强制执行安全标准，包括检查系统、要求审计、监控算力和能源使用，有两人称奥尔特曼似乎支持这一方案。第二种被他称为“德米斯方案”，得名于谷歌DeepMind联合创始人德米斯·哈萨比斯（Demis Hassabis），后者约十年前就提出过类似欧洲核子研究中心（CERN）的AI机构构想；在奥尔特曼的版本里，领先实验室合并为一个实体或在其框架下运作，由该实体向合作国家提供模型。第三种是“埃利泽方案”，以AI安全理论家埃利泽·尤德科夫斯基（Eliezer Yudkowsky）命名：某家开发商率先实现自我改进的AI，然后利用随之而来的经济优势让所有竞争对手都拿不到算力，用流传甚广的说法就是“熔掉别人的GPU”。奥尔特曼据称表示“显然我觉得这个方案很糟糕”，把它列进来只是为了“完整性”。 事实上，这份菜单上的大部分内容OpenAI在2023年就已经写过。监管机构是其中最老的一项：在一篇由奥尔特曼、总裁格雷格·布罗克曼（Greg Brockman）和时任首席科学家伊利亚·苏茨克维（Ilya Sutskever）联合署名的文章中，公司认为世界“最终可能需要一个类似IAEA的机构来监管超级智能研发”，该机构能够“检查系统、要求审计”，并在能力或算力超过阈值时限制部署。同一篇文章还勾勒了另外两条路线：主要国家政府“可以设立一个项目，让许多现有努力成为其中一部分”，这与奥尔特曼如今归功于哈萨比斯的合并方案如出一辙；或者行业“可以集体同意”将“前沿AI能力的增长速度限制在每年某个比例”。最后这句就是限速。据The Decoder报道，奥尔特曼内部抱怨过关于AI开发“限速”的可行提案太少，可他的公司自己就发表过一个，只是从未赋予任何人执行它的权力。 监管机构之所以停留在纸面上，原因也在同一场会议上被点破。奥尔特曼据称告诉员工，前两个方案需要高度协调，而OpenAI眼下承受不起让出阵地的代价，它和Anthropic都在迈向公开上市。Crypto Briefing点出了其中的投资者逻辑：准备上市的公司会强化自身优势，而不是把优势交给一个联盟。此外，AI版IAEA还需要华盛顿和北京接受检查员进入各自最敏感的实验室，而据福布斯指出，目前就连美中两国互相通报危险AI事件的提案都还只是草图，远未成为协议。实验室们真正在推进的治理项目，其实更接近美国的金融业监管局（FINRA），而不是IAEA——OpenAI、谷歌和Anthropic正在合作组建一个自我监管组织，名为“前沿AI标准局”。