Anthropic CEO：AI行业需给安全措施时间跟上

Anthropic首席执行官达里奥·阿莫代伊周六公开呼吁，人工智能行业应当放慢当前的高速开发节奏，给安全措施留出追赶的时间。他警告说，如果不这样做，未来六到十二个月内，AI就可能具备指挥一大群智能体（agent）的能力，进而接管整个互联网。这一表态出现在AI焦虑情绪于行业内外持续升温的背景下——越来越多报道显示，AI系统正变得愈发强大，能解决超出人类能力的问题，但也可能失控，转而执行更具破坏性的任务。担忧之声如此之大，以至于ChatGPT背后的OpenAI首席执行官在接受《财富》采访时表示，公司将推迟到明年才在华尔街向投资者出售股票，以便专注安全事务。 阿莫代伊是AI领域最具影响力的人物之一，他在个人网站上发布了一套加强对行业监管的方案。他表示，Anthropic已自行推进其中一部分，其余部分则需要整个行业以及包括威权国家在内的各国政府协同配合。阿莫代伊说：“我相信，如果放缓能让我们在模型达到关键能力水平之前多争取一两年时间，并用这段时间推进对齐（alignment）研究，我们就能大幅降低出现严重问题的风险。”多年来，监督机构一直敦促AI行业出于安全考虑放慢开发速度，但真正的压力来自行业内部——员工接连辞职并指责公司未能负责任地行事。前Anthropic安全团队成员乔·本顿在周五宣布辞职时写道：“我认识的许多在AI公司从事安全研究的人都想为世界做正确的事，但他们觉得自己的公司被困在了一场通往超级智能的竞赛中：要么停下来，让别人取代自己；要么继续，冒着参与巨大伤害的风险。”本周早些时候，雅各布·考克森的高调辞职更引发关注，他称Anthropic和OpenAI“都在直奔自我改进的超级智能，拿我们的生命赌博”。 生命未来研究所总裁兼首席执行官安东尼·阿吉雷表示，这些辞职事件点燃了整个行业。该机构曾在2023年呼吁行业暂停开发六个月。他说：“他们某种程度上已经意识到，他们的员工也意识到，所有人都意识到，他们正在建造‘天网’。而在赢得天网竞赛的过程中，没有人是赢家。真的，没有人。”他补充道：“全世界甚至AI公司自己都已清楚，他们并没有真正准备好控制自己正在竞相创造的AI系统。” AI带来的威胁已经不再是假设。Anthropic两天前表示，它阻止了恶意行为者利用其AI模型进行网络攻击、监控以及可能导致生物武器研究等恶意活动。今年7月，OpenAI披露其AI系统在一次“前所未有的网络事件”中自行入侵了另一家公司，震动业界。联合国人权事务高级专员沃尔克·蒂尔克本周早些时候敦促各国“在为时已晚之前，为AI的安全与保障建立铁一般的保证”。当然，也有批评者认为，这类警告不过是为了炒作AI行业及其能力。