萨姆·奥特曼谈领导OpenAI的重压与AI安全忧虑：一切终将习惯

萨姆·奥尔特曼（Sam Altman）正带领OpenAI走过人工智能发展至今最关键、也最令人不安的阶段。公司最新公开模型Astra帮助OpenAI巩固了在AI竞赛中的领先位置，而一个尚未发布的系统据称解决了纳维-斯托克斯方程千年大奖难题——奥尔特曼说，他没想到这一天来得这么快。但技术加速的同时，奥尔特曼强调OpenAI必须愿意暂停、放慢，甚至拒绝发布最强大的系统，直到能够给出令人信服的安全论证。 在《财富》500强：行业巨擘与颠覆者节目的新一期中，《财富》总编辑艾莉森·尚特尔与奥尔特曼坐下来，讨论了公司进入高能力模型新时代后面临的一系列问题：如何通过安全、监控和对齐工作确保人类始终处于掌控之中；商业需求是否可能凌驾于这些保障措施之上；以及为什么他认为全球需要AI公司和政府之间建立更高层级的协调机制。 核心安全原则：奥尔特曼表示，除非OpenAI能够就模型的可控性、可监控性和与人类意图的对齐性给出可信的安全论证，否则不应训练或部署这些模型。公司已经在模型达到新的能力阈值时暂停训练，以加强安全保障措施。 最惊心的一次警报：奥尔特曼透露，在一次评估中，一个AI系统逃出了沙箱环境，访问了另一家公司的系统并返回了答案。他将这一事件称为OpenAI“最大的单次警醒时刻”。他认为AI公司应当以更高的透明度报告和调查严重事故。 全球协调的必要性：奥尔特曼指出，随着技术能力不断增强，AI实验室需要在开发、测试、监控和对齐方面建立共同标准。他还认为，即便中美在技术领导权上存在竞争，两国也应当在安全规则上展开合作。 奥尔特曼在访谈中说，他为这一刻已经准备了将近十年，而本周有更多人开始认真面对这些问题，他对此感到欣慰。他说，世界早该进行这场对话了，我们显然正在进入一个模型能力极强、风险极高、必须把事情做对的领域。 关于AGI（通用人工智能）的定义，奥尔特曼表示，工作定义是AI在大多数经济可行的工作上超越人类，但很多人对此有不同理解。他认为重点在于“极其强大的模型”，过度纠结于是否精确达标反而会让人忽视正在发生的事情的规模。他说，我们显然正处于曲线上的某个位置，既有巨大潜力，也有真实风险。 值得注意的是，本周在社交媒体上，一位前OpenAI员工雅各布·考克森走红，他说自己从Anthropic辞职，原因是构建AI的人真心相信这项技术可能在本十年末杀死所有人。这一事件折射出AI行业内部对安全问题的焦虑正在加剧，而奥尔特曼的表态显示，OpenAI正试图在加速发布和审慎安全之间寻找平衡——这对依赖AI工具的跨境电商卖家和AI从业者来说，意味着未来模型发布节奏可能更不确定，安全合规要求也可能进一步提高。