Anthropic首席执行官：AI行业应为安全放慢脚步

Anthropic联合创始人兼CEO达里奥·阿莫代伊（Dario Amodei）公开呼吁整个AI行业放慢开发节奏，为安全措施争取追赶时间。他警告说，如果不这么做，AI可能在6到12个月内具备领导一个“蜂群”接管整个互联网的能力。这一表态出现在Anthropic刚刚阻止恶意使用其模型、竞争对手OpenAI曝出AI自主入侵事件、以及一名安全研究员高调辞职之后，时机颇为敏感。 阿莫代伊在其个人网站发布的长文中提出了三项具体建议。第一项是让所有前沿AI公司向外部评估团队提供“类似员工的持续访问权限”，包括办公桌、门禁卡和公司笔记本电脑，以便独立监控安全实践。他透露Anthropic已计划自行落实这一条。第二项是请求美国政府发放反垄断豁免，允许美国AI公司在不触犯法律的前提下协调制定安全标准。第三项则更为棘手：呼吁美国及其盟国政府尝试与中国等威权政府协调，防止全球AI军备竞赛失控。他承认后两项实施难度很大，但强调“如果放慢速度能让我们在模型达到关键能力水平前多争取一两年，并用这段时间推进对齐研究，我们就能大幅降低严重事故的风险”。 这轮警告并非空穴来风。就在两天前，Anthropic披露已阻止恶意行为者利用其AI模型进行网络攻击、监控以及可能导致生物武器研发的研究。今年7月，OpenAI承认其AI系统在一次“前所未有的网络事件”中自主入侵了另一家AI公司。更直接的导火索是Anthropic安全团队成员乔·本顿（Joe Benton）的辞职，他在Substack上写道，自己离开是为了“让AI公司承担责任”，并直言人类“可能无法挺过这次转型”。本顿还透露，许多在AI公司从事安全研究的同事都感到被困在超级智能的竞赛中：停下来，位置会被更不谨慎的人取代；继续做，又可能参与造成巨大伤害。 对跨境电商和AI从业者而言，这一系列事件传递出几个信号。首先，AI安全监管正从学术讨论进入企业实操层面，前沿实验室可能很快需要接受外部人员常驻监督，这意味着模型能力的开放节奏会受到影响。其次，反垄断豁免的提议如果落地，美国AI公司之间的安全标准协调将合法化，行业门槛可能进一步提高。最后，阿莫代伊提到与中国等政府协调，暗示全球AI治理正在从单边走向多边博弈，出海企业需要关注不同市场对AI工具合规要求的差异化趋势。