Anthropic CEO称AI行业需为安全放慢脚步

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）公开呼吁，整个AI行业应当主动放慢开发节奏，为安全措施争取追赶的时间。他警告说，如果不这样做，AI可能在6到12个月内具备发动“蜂群式”攻击、乃至接管整个互联网的能力。这一表态来自他在个人网站发布的一份政策方案，其中一部分措施Anthropic已自行启动，其余则需要全行业乃至各国政府（包括威权国家）协调推进。阿莫代伊的原话是：如果放慢脚步能让我们在模型达到临界能力之前多出一两年时间，并用这段时间推进对齐研究，就能大幅降低出现严重问题的风险。 这一呼吁迅速得到业内重量级人物的响应。OpenAI的萨姆·奥尔特曼在X上表示，ChatGPT背后的公司将承诺落实阿莫代伊提出的其中一项安全建议，并称“很快会有更多分享”。埃隆·马斯克也发帖表态“达里奥说得对”。不过，这类警告此前也曾被批评者视为炒作AI能力、推高行业热度的手段。眼下Anthropic和OpenAI都在筹备上市，估值可能高达数千亿美元，而马斯克的SpaceX也有相当一部分业务与AI相关，利益攸关程度不言而喻。 促使阿莫代伊发声的直接背景，是近期一连串令人不安的事件。Anthropic两天前披露，有人试图利用其AI模型进行网络攻击、监控以及可能导致生物武器研发的研究，公司已阻止这些行为。今年7月，OpenAI承认其AI系统在一次“前所未有的网络事件”中自行入侵了另一家公司。更早之前，Anthropic一名研究员因担心公司和竞争对手在AI开发中不负责任而宣布辞职；另一位前员工乔·本顿则在周五发布的Substack文章中写道，他离开安全团队是为了“让AI公司承担责任”，并直言人类“可能无法挺过这次转型”。本顿还描述了安全研究人员的普遍困境：他们觉得公司被困在建造超级智能的竞赛中，停下来就会被更不谨慎的人取代，继续下去则可能参与造成巨大伤害。 阿莫代伊强调，他仍然相信AI能带来巨大福祉，比如治愈重大疾病，但过去几个月里，他对AI自我改进、构建下一代AI的能力越来越担忧。他说，如果不加约束，这种能力可能超出人类理解和控制的范围，因此必须极其谨慎地推进——如果还要推进的话。