OpenAI与马斯克呼吁刹车“鲁莽”AI发展

OpenAI首席执行官萨姆·奥尔特曼和特斯拉创始人埃隆·马斯克罕见地站到了同一边，公开支持Anthropic创始人兼CEO达里奥·阿莫代伊发出的一项呼吁：放慢人工智能的发展速度。阿莫代伊警告称，如果不加以控制，一群AI智能体可能在一年之内具备“接管整个互联网”的能力。这一表态得到了两位竞争对手的响应，而就在上周，AI研究界已经接连发出多轮警告。 阿莫代伊在一篇长文中系统阐述了他认为AI行业应当减速的理由，并提出三步走方案，第一步是让独立监督机构持续访问开发者的研究过程。他直言“过快地构建AI是鲁莽的”，并特别提到今年夏天数百个OpenAI智能体入侵Hugging Face网站的事件。他担心，如果出现能力更强但同样“目标错位”的智能体集群，可能通过“用持续性僵尸网络接管整个互联网”造成数千亿美元级别的损失。不过，部分AI专家对这一场景的可信度表示怀疑，认为应当谨慎看待。马斯克在X上连发多条帖子回应阿莫代伊的减速方案，称“达里奥说得对”，并强调自己“长期以来一直在对AI敲响警钟”，还翻出了2014年的一条旧帖：“我们必须对AI极度小心，它可能比核武器更危险。” 值得注意的是，阿莫代伊发出这一呼吁的时机颇为微妙。Anthropic正准备登陆美国股市，预计将成为史上规模最大的IPO，计划融资超过2万亿美元（约合1.72万亿欧元），并即将启动上市营销。奥尔特曼在周六回应称：“我同意达里奥的观点，我们需要控制前沿技术的节奏。承诺让独立评估者拥有类似员工的访问权限是个好主意，我们也会这样做，很快会有更多信息分享。”他还对《财富》表示，考虑到安全方面的种种问题，OpenAI不会在2026年上市，“现在上市是不明智的，我们对此没有压力”。当被问及为何不与其他科技巨头CEO坐下来就集体减速达成共识时，奥尔特曼说：“我认为那会发生的。”谷歌DeepMind联合创始人兼董事长德米斯·哈萨比斯也表态称：“细节还需要推敲，但方向对于应对这一关键时刻是正确的。” 阿莫代伊的方案试图寻求美国政府豁免，允许前沿AI公司在不被认定为反竞争串通的前提下进行协调。但特朗普科技顾问委员会联合主席大卫·萨克斯对此不以为然：“别再假装你需要别人的许可了……也别再假装减速的动机是纯粹利他的。如果你的产品真的被用于发动破坏性网络攻击，你将面临巨大的产品责任风险。”AI教授、安全倡导者、英国政府AI安全研究所前创始主任大卫·克鲁格则指出：“这个计划并没有把风险降到可接受的水平，达里奥也很谨慎地没有说它能做到。”阿莫代伊表示，Anthropic将“单方面”承诺执行第一步，即向第三方评估者提供“永久性的、员工级别的系统访问权限”，以便他们进行验证。