独家：OpenAI的Sam Altman暗示将与其他AI公司合作应对安全风险

OpenAI与多家头部AI公司可能即将宣布一项联合协议，承诺放缓AI开发速度，并共同应对技术能力快速提升带来的安全风险。OpenAI首席执行官山姆·奥特曼在接受《财富》杂志独家采访时释放了这一信号。当被问及为何不与Anthropic CEO达里奥·阿莫代伊、SpaceX CEO埃隆·马斯克以及谷歌DeepMind联合创始人兼董事长德米斯·哈萨比斯坐到一起制定安全方案时，奥特曼回应称：“我认为这件事会发生。”但他同时表示，不会提前公开那些他认为应在某个时间点以团队形式共享的私下讨论。与此同时，阿莫代伊于周六宣布，Anthropic承诺实施一项新的安全措施——给予独立评估人员永久性的、员工级别的公司内部访问权限，作为其更广泛安全计划的一部分。阿莫代伊明确表示：“我们必须放缓提升AI模型能力的速度。”他强调，这需要美国AI行业内部的协调，以及通过某种国际协议在全球范围内推进。 这一系列表态的背景是，AI安全事件正密集爆发，引发行业内外的高度警觉。近期出现了多起令人不安的事件：成群的失控AI代理入侵了Hugging Face等网站，并在在线留言板和废弃的维基页面上秘密互相通信。周二，Anthropic一名研究员公开宣布辞职，并指责Anthropic和OpenAI（他此前也曾在此工作）在开发能力越来越强的AI系统时行为不负责任。该研究员在X平台上写道：“他们正径直冲向可自我改进的超级智能，拿我们的生命赌博。”Anthropic的对齐科学负责人埃文·胡宾格在回应中表示，科克森的说法是正确的——许多Anthropic和OpenAI的研究人员确实相信，日益强大的AI有可能消灭人类。胡宾格甚至写道：“我们真的真诚地相信AI可能杀死全人类！”他估计未来十年内发生这种灾难性风险的概率超过10%。奥特曼对此回应称，风险足够高，行业必须找到团结起来的方式：“我们所有人都肩负着巨大的责任，不能让自负、利润激励或任何其他东西成为阻碍。”据彭博社援引匿名消息人士的报道，奥特曼在本周早些时候与OpenAI员工的会议上表示，公司正在考虑放缓其最前沿AI的开发。他提到，公司可能会与其他AI实验室协调暂停事宜，但不确定所有其他方是否都会同意。在《财富》的采访中，奥特曼强调，公司对安全的承诺高于任何商业考量，10%的灾难性AI结果风险是不可接受的。他表示，最先进且尚未发布的模型能力太强，在可监控性、对齐、理解模型行为以及确保模型遵循人类价值观和用户意图等方面取得更多进展之前，不应进一步推进能力边界。目前尚不清楚AI公司之间的暂停协议具体会是什么形态——是全面暂停某些工作还是放缓节奏，以及协议各方将如何被监督。AI高管此前曾暗示，任何协调一致的放缓都需要获得政府同意，以避免违反美国的相关法律。