萨姆·奥特曼对AI安全竞赛的三种结局 - AI简报

萨姆·奥特曼最近在一次内部讲话中，给OpenAI员工描绘了AI安全竞赛的三种终局，并透露公司大约有一年时间来选定自己的路线。据The Information报道，奥特曼将OpenAI现行的安全策略称为“配速1.0”——模型通过安全测试后就发布，发现问题就标记出来。而接下来的“配速2.0”选项则激进得多：一是建立一个类似国际原子能机构的全球监管机构，这也是OpenAI自2023年以来一直在游说的方案，据称是奥特曼本人最倾向的路径；二是所谓的“德米斯方案”，以DeepMind联合创始人德米斯·哈萨比斯命名，把顶级实验室合并成一个服务于伙伴国家的单一实验室，类似欧洲核子研究中心（CERN）的模式；三是以AI研究者埃利泽·尤德科夫斯基命名的方案，即某家实验室凭借自我改进的AI一路狂奔，把其他所有对手的GPU“熔化掉”，奥特曼直言这个结局“很糟糕”。他强调，无论选哪条路，都必须包含一个针对自我改进AI的“限速”或停止点。 这件事的背景是，AI安全领域的紧迫感正在整个行业蔓延。Anthropic的杰克·克拉克不久前刚谈到要给智能设定上限，并称世界只剩下“少数几年”来采取安全行动，而奥特曼给出的三种情景与这位头号竞争对手的立场明显趋同。对跨境电商和AI从业者来说，这背后的信号值得留意：如果全球监管机构或多实验室合并的方案落地，前沿模型的获取门槛、使用成本和合规要求都可能随之改变，依赖大模型API做选品、客服、内容生成的卖家需要提前考虑供应商集中度风险。当然，顶级实验室“复仇者联盟式”的联手听起来很美，但正如迄今为止的每一份行业协定一样，要让整个领域都加入进来并不容易。