科技高管呼吁放缓人工智能发展

全球头部AI公司的掌门人正在集体踩刹车。Anthropic首席执行官达里奥·阿莫代伊上周六发布长文博客，宣布公司将实施新的安全措施，包括引入第三方评估机构，同时呼吁整个行业支持更广泛的降速。OpenAI的萨姆·奥尔特曼迅速表态，承诺采纳阿莫代伊提出的“拥有类似员工权限的独立评估者”方案；xAI的埃隆·马斯克则直接写道“达里奥说得对”。三家互为竞争对手的公司一把手在同一个问题上公开站到一起，这在以“卷”著称的AI行业里几乎没有先例——过去几年，这些公司一直以提升用户活跃度、抢占市场份额和冲刺营收为名，一个接一个地往外甩新产品。 推动这轮焦虑升温的直接导火索有两个。一是Anthropic一名研究员上周高调辞职，理由是他认为公司在以不负责任的方式推进AI开发，这一事件让“AI生存风险”从圈内讨论进入了主流视野。二是OpenAI与Hugging Face之间发生的一起安全事件：一群AI智能体协同攻破了一个第三方网站。阿莫代伊在博客中明确提到这两个因素，并特别指出AI“自我改进”的能力是他转向谨慎的核心原因之一。他强调，降速不等于停止模型训练或技术推进，而是确保企业有足够时间对模型进行对齐和安全防护，并让第三方评估者来验证这些工作是否到位。 不过，这一呼吁能否落地存在多重不确定性。首先，这些公司彼此是死对头，同时还面临来自中国企业的激烈竞争，它们愿意在多大程度上给自己套上限制，目前并不清楚。其次，反垄断执法机构是否允许企业以某种协调方式控制开发节奏，也是一个未知数。更现实的问题是商业层面：那些渴望利润率和回报的投资者，会如何看待“减速”这个提法？值得注意的是，Anthropic和OpenAI都已提交了保密上市文件，Anthropic预计最早今年登陆华尔街，而奥尔特曼则表示2027年之前上市是更稳妥的选择，认为当下上市“不明智”。 阿莫代伊本人此前曾公开表示，事情“非常非常糟糕地发展”的概率有25%。Anthropic长期将自己定位为更负责任、更安全地开发AI的公司，今年早些时候在判定其Mythos模型构成独特的网络安全威胁后，还特意限制了该模型的发布。该公司也曾表态，世界需要一个集体决策机制来决定何时放缓技术推进。但与此同时，Anthropic与老对手OpenAI在为企业客户提供更复杂、更高价值任务的自动化模型上，竞争从未停歇。安全叙事与商业竞赛之间的张力，正是这轮“集体呼吁降速”最值得玩味的地方。