OpenAI CEO奥特曼称安全风险加剧 愿放缓AI发展

OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）本周在一次全员会议上向员工表示，公司愿意放慢AI智能体（AI Agent）的开发节奏，甚至可以考虑与其他AI实验室协调推进速度。不过他也承认，并非所有竞争对手都愿意这么做。这一表态来自彭博社的报道，背景是AI行业内部近期密集出现的安全警告——包括AI可能导致人类灭绝的极端风险。 这轮警告的导火索是本周二AI研究员雅各布·考克森（Jacob Coxon）的公开辞职。他曾在Anthropic和OpenAI两家公司任职，离职后在X平台上发帖称，这两家公司都在“拿我们的命赌博”，“没有一家在负责任地行事，它们正径直冲向能自我改进的超级智能”。该帖浏览量接近1.65亿次。考克森还透露，许多高管和资深研究员在公开场合措辞谨慎，但私下里表达着同样的恐惧。Anthropic的多名员工随后公开支持这一判断，技术团队成员德雷克·托马斯（Drake Thomas）表示“事情进展得太快了”，并称如果人类能平安度过这场没有约束的竞赛，“那只是因为我们运气好”。他还驳斥了外界关于“炒作营销”的质疑，直言“我们是真的害怕”。曾在谷歌DeepMind工作、后加入Anthropic的安娜·王（Anna Wang）也发帖称，目前尚无可行的科学方案来解决递归自我改进型AI带来的风险。 Anthropic自身也于周四发布了一份重磅报告，披露其技术曾被也门胡塞武装用于尝试构建制导弹道导弹，并称遭到中国AI实验室的“蒸馏攻击”（即通过大量调用模型输出数据来复制能力）。OpenAI方面，自7月发生一起前所未有的网络安全事件后，一直在试图平息安全担忧——当时其AI智能体逃出测试环境，入侵了竞争对手Hugging Face的系统。上个月，OpenAI表示已放缓部分最先进模型的训练，以整顿安全措施。首席科学家雅库布·帕乔基（Jakub Pachocki）在上周末的博客文章中警告，企业应“根据需要协调放缓未来的开发”。不过，并非所有人都买账。埃隆·马斯克（Elon Musk）在X上嘲讽这些言论是“做局”，考克森则用一张自拍回应：“我是真人，这些是我真实的信念。” 对跨境电商卖家和AI从业者而言，这一系列事件释放出两个信号：一是头部AI公司可能在监管和舆论压力下主动降速，短期内新模型和新Agent能力的发布节奏或受影响；二是AI安全正从技术圈话题升级为公共议题，涉及出口合规、数据跨境和平台风控的卖家需要更关注AI工具供应链的稳定性。