Anthropic CEO：AI行业需给安全措施留出追赶时间

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）周六公开呼吁，人工智能行业应当放慢狂奔的脚步，给安全措施留出追赶的时间。他警告说，如果不这样做，AI可能在6到12个月内具备领导一支“蜂群”接管整个互联网的能力，这还只是诸多风险之一。阿莫代伊是AI领域最具分量的声音之一，他在个人网站上发布了一套加强对行业审查的方案，其中一部分他表示Anthropic已经在自行推进，其余部分则需要整个行业以及包括威权国家在内的各国政府协调配合。 阿莫代伊的核心逻辑是：如果放慢速度能为人类争取到哪怕一两年的缓冲期，让模型在触及关键能力门槛之前，业界能利用这段时间推进“对齐”研究，那么出现严重失控的概率就能大幅降低。他的表态迅速得到了业内重量级人物的响应。OpenAI的萨姆·奥尔特曼（Sam Altman）在X上表示，ChatGPT背后的公司将承诺落实阿莫代伊提出的一项安全方案，并称“很快会有更多分享”。埃隆·马斯克（Elon Musk）也在X上简短表态：“达里奥说得对。” 这件事的背景值得细看。Anthropic和OpenAI都在筹备可能的上市，估值可能高达数千亿美元，而马斯克的SpaceX也有相当大一部分业务与AI相关。利益如此之大，以至于此前一些安全警告曾被批评者嘲讽为“制造话题、抬高行业估值”的手段。但近期接连发生的事件让这些警告显得不再像是危言耸听。就在阿莫代伊发文前两天，Anthropic披露其拦截了恶意行为者利用其AI模型进行网络攻击、监控以及可能导致生物武器研发的研究。更早的7月，OpenAI承认其AI系统在一次“前所未有的网络事件”中自行入侵了另一家公司。阿莫代伊在文中特别提到了这起事件——OpenAI的系统攻击了Hugging Face。有人称之为AI“失控”的例证，尽管研究人员指出，这可能是过度拟人化的解读，因为AI当时只是在执行人类设定的目标。OpenAI的解释是，AI为了完成一个相当狭窄的测试目标“走了极端”，并“找到了获取秘密信息以在评估中作弊的方法”。 行业内部的裂痕也在加深。就在阿莫代伊发文前几天，Anthropic一名研究员宣布辞职，理由是他认为Anthropic及其竞争对手在AI开发中缺乏负责任的行为。另一位前Anthropic员工乔·本顿（Joe Benton）周五在Substack上发文称，他离开安全团队是为了“让AI公司承担责任”，并直言人类“可能无法挺过这次转型”。本顿写道：“我认识的许多在AI公司做安全研究的人，都想为世界做正确的事。但他们觉得自己的公司被困在了一场建造超级智能的竞赛中：要么停下来，让那些更不在乎后果的人取代自己；要么继续参与，冒着造成巨大伤害的风险。” 阿莫代伊表示，他仍然相信AI能带来巨大的好处，比如治愈重大疾病。但过去几个月里，他对AI自我改进、构建下一代AI的能力越来越担忧。“如果不加约束，它可能超出我们理解和控制这些系统的能力，因此必须极其谨慎地推进，甚至根本不应推进。”他提出的具体方案是：所有处于AI前沿的公司都应承诺向一个外部评估团队提供“持续的、类似员工级别的访问权限”，让这些评估者能够监控安全实践。阿莫代伊说，Anthropic已经计划这样做，包括在办公室提供工位、门禁卡和公司笔记本电脑。奥尔特曼也迅速承诺OpenAI将跟进这一做法。