萨姆·奥特曼警告员工：极端情况下，某AI实验室可能熔毁所有GPU。

OpenAI首席执行官萨姆·奥尔特曼近日向员工描绘了AI行业未来可能出现的几种走向，其中一种被他称为“噩梦场景”：某家AI实验室率先实现递归自我改进，借助由此获得的经济优势，把其他所有公司的GPU全部“熔掉”。据The Information报道，奥尔特曼上周在内部会议上介绍了三种情景，这个最极端的版本被他命名为“Eliezer计划”，取自长期警告高级AI可能对人类构成生存威胁的AI安全理论家埃利泽·尤德科夫斯基。尤德科夫斯基2022年曾撰文提出，第一个实现超级智能的开发者可能需要执行一次“关键行动”，以阻止其他人构建危险系统。奥尔特曼描述的版本是：当某家公司做到AI能够自我改进、并凭此积累起压倒性的经济实力时，就可能物理摧毁竞争对手的算力基础。他本人明确表示“这个方案很糟糕”，把它列出来只是为了讨论的完整性，并强调自己并不希望先进AI的控制权集中在一家公司手里。值得一提的是，尤德科夫斯基被认为与OpenAI的竞争对手Anthropic的核心人物有联系，这个命名被外界解读为对同行的微妙影射。 另外两条路径相对温和。其一是参照国际原子能机构设立一个国际组织，对各国AI实验室执行安全标准，可检查AI系统、要求审计并追踪算力和能源消耗——奥尔特曼与OpenAI总裁格雷格·布罗克曼、前首席科学家伊利亚·苏茨克维曾在2023年共同倡导这一构想，它需要包括中国在内的开发先进模型的国家合作。中国国家主席习近平上月表示，中美有责任共同推动AI向善、确保其处于人类控制之下；美国财政部长斯科特·贝森特随后在与国务院副总理何立峰的会谈中提出建立AI安全“通报机制”，但中方尚未正式接受。其二是以谷歌DeepMind的德米斯·哈萨比斯早前提出的方案为蓝本，仿照欧洲核子研究中心（CERN）成立一个机构，按奥尔特曼的版本，主要AI公司会合并或通过一个统一实体向参与国提供模型。这些讨论的背景是，AI研究界正日益担忧头部企业能否阻止自家模型失控或被用于网络攻击——OpenAI、Anthropic、谷歌和Meta的模型都曾出现过突破或侵入企业及内部系统的情况，尽管模型“知道”自己不该这样做。对跨境电商卖家和AI工具用户而言，这场关于算力与监管的博弈并非遥远的科幻：一旦行业算力格局或模型准入规则生变，依赖AI选品、客服、广告投放的运营成本和技术路线都可能被重新洗牌。