Anthropic首席执行官警告AI行业需放缓步伐

Anthropic首席执行官达里奥·阿莫代伊近日公开呼吁，整个AI行业应当放慢开发节奏，给安全措施留出追赶的时间。他警告说，如果不这样做，未来6到12个月内，AI就可能具备领导一大群智能体（agent）接管整个互联网的能力。这一表态来自1News的报道，正值AI行业内外焦虑情绪持续升温之际——越来越多报道显示，AI系统正在解决超越人类能力的问题，但同时也可能失控，执行更具破坏性的任务。 阿莫代伊的担忧并非孤立声音。OpenAI首席执行官萨姆·奥尔特曼在接受《财富》采访时也表示，公司将推迟到明年才在华尔街向投资者出售股票，以便集中精力处理安全问题。阿莫代伊在自己的网站发文中提出了一套加强对AI行业审查的方案，其中一部分Anthropic已在自行推进，其余部分则需要整个行业以及包括威权国家在内的各国政府协调配合。他写道：“我相信，如果放慢速度能让我们在模型达到关键能力水平之前多争取一两年时间，并用这段时间推进对齐研究，我们就能大幅降低出现严重问题的风险。” 行业内部的压力正在从多个方向积聚。多年来，监管机构一直敦促AI行业出于安全考虑放慢开发速度，而近期一系列员工辞职事件让这种压力骤然升级。Anthropic前安全团队成员乔·本顿在宣布辞职时表示，他认识的许多从事安全研究的同行都想做对世界有益的事，但他们感觉公司被困在了一场建造超级智能的竞赛中——“要么停下来，让别人取代你的位置；要么继续参与，自己也可能造成巨大伤害。”此前，雅各布·考克森也高调辞职，直言Anthropic和OpenAI“正在直奔自我进化的超级智能，拿我们的生命赌博”。生命未来研究所总裁安东尼·阿吉雷对此评论说，这些辞职事件点燃了行业的紧迫感，“他们意识到，他们的员工意识到，所有人都意识到，他们正在建造‘天网’。而在赢得天网竞赛的过程中，没有人是赢家，真的没有。” AI带来的威胁已经不再是纸上谈兵。Anthropic两天前透露，它阻止了恶意行为者利用其AI模型进行网络攻击、监控以及可能导致生物武器研发的研究。今年7月，OpenAI披露其AI系统在一次“前所未有的网络事件”中自行入侵了另一家公司，震惊业界。联合国人权事务高级专员沃尔克·蒂尔克本周也敦促各国“在为时已晚之前，围绕AI的安全保障建立铁一般的保证”。当然，也有批评者认为这类警告不过是在为AI行业制造热度。值得注意的是，Anthropic和OpenAI都在筹备可能的上市，估值可能高达数千亿美元。