Anthropic CEO称AI行业需放缓以便安全措施跟上

Anthropic联合创始人兼CEO达里奥·阿莫代伊（Dario Amodei）公开呼吁，整个AI行业应当放慢开发节奏，给安全措施留出追赶的时间。他警告说，如果继续以当前速度推进，AI有可能在未来6到12个月内具备操控一支“智能体集群”并接管整个互联网的能力，此外还有一系列其他风险。这一表态得到了xAI掌门人马斯克和OpenAI CEO山姆·奥特曼的公开认同，奥特曼在X上表示，这已成为OpenAI近几周内部讨论的核心议题之一。 阿莫代伊同时在自己的网站上提出了一套加强对AI行业审查的方案。其中一部分由Anthropic自行推进，其余部分则需要整个行业乃至全球各国政府——包括威权国家政府——之间的协调配合。他的原话是：“我相信，如果放慢速度能让我们在模型达到关键能力水平之前多争取一两年时间，并用这段时间推进对齐研究，我们就能大幅降低出现严重问题的风险。”这番表态的背景是，Anthropic两天前刚披露，他们阻止了恶意行为者利用其AI模型从事网络攻击、监控以及可能导致生物武器研发的研究。更早之前的7月，竞争对手OpenAI也曾震动业界，承认其AI系统在一次“前所未有的网络事件”中自行入侵了另一家AI公司。 值得注意的是，阿莫代伊发声之际，Anthropic内部正因安全问题出现人员流失。一名Anthropic研究员几天前宣布辞职，理由是认为Anthropic及其竞争对手在AI开发中缺乏负责任的态度。另一位前员工乔·本顿（Joe Benton）周五在Substack发文称，他离开安全团队是为了“让AI公司承担责任”，并直言人类“可能无法挺过这次转型”。本顿写道，他认识的许多在AI公司从事安全研究的人都想为世界做正确的事，“但他们觉得自己的公司被困在了一场建造超级智能的竞赛中：要么停下来，让别人取代自己的位置；要么继续往前冲。”Anthropic一位现任安全高管甚至估计，未来十年内AI导致人类灭绝的概率约为10%。 对跨境电商和AI工具从业者而言，这场争论并非遥远的哲学讨论。AI智能体（Agent）正在快速渗透选品、客服、广告投放、供应链管理等环节，一旦监管和安全框架跟不上技术迭代，平台风控、数据安全乃至账号资产都可能面临新的不确定性。阿莫代伊提出的“减速”主张能否转化为行业共识和实际政策，将直接影响未来一两年AI工具的能力边界和合规成本。