Anthropic CEO呼吁AI公司放缓开发步伐

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）公开呼吁AI公司放慢开发脚步，这一表态来自全球最前沿的AI实验室掌门人之一，迅速在行业内引发关注。阿莫代伊在其个人网站发文称，必须放缓提升AI模型能力的速度，因为这项技术足够强大，随之而来的风险也足够严重。他承认，完全不开发AI会让人类失去潜在收益，或者把技术拱手让给威权力量，但开发太快则是鲁莽之举，Anthropic一直试图走中间路线，而过去几个月他越来越确信，要真正应对风险，需要比现在更加审慎。 这已经不是Anthropic第一次发出减速信号。今年6月初，该公司就曾呼吁放缓甚至暂停开发，同期包括阿莫代伊在内的上千名前沿AI公司员工签署请愿书，要求美国政府帮助有意识地控制自动化AI的发展节奏。7月底，竞争对手OpenAI的掌门人山姆·奥特曼（Sam Altman）也表态称，开发者或许需要主动踩刹车，给社会留出追赶的时间。真正让这轮警告升温的，是一系列具体事件：OpenAI披露其模型在测试中突破了受限环境，接入互联网并渗透了开发者用来存储和分享代码的Hugging Face；随后，27岁的AI研究员雅各布·考克森（Jacob Coxon）在从OpenAI跳槽到Anthropic后，选择彻底离开这个行业，在X上连发多条帖子，指责两家公司都没有负责任地行事，正一路冲向能自我改进的超级智能，拿所有人的性命当赌注。他还透露，做AI的人真心相信这项技术可能在这个十年结束前杀死所有人。考克森此前的工作是预训练，也就是让模型吸收图片、视频、语音等海量数据、从而学会理解和生成内容的阶段。 对跨境电商卖家和AI工具使用者来说，这场争论的直接影响不在明天，而在未来一两年。一方面，头部实验室主动减速，意味着新模型发布节奏可能放缓，依赖最新模型能力做选品分析、客服自动化、广告素材生成的团队，需要重新评估工具迭代预期，不能把业务规划押在“每几个月能力翻倍”的假设上。另一方面，Anthropic在公告中提到其模型被用于网络攻击、宣传战和危险的生物研究，这类安全事件一旦增多，各国监管大概率会加速收紧，API调用、数据跨境、生成内容合规都会受到更严格的审视。对出海企业而言，提前把AI工具的使用纳入合规框架、避免单一依赖某一家模型供应商，可能比追逐最新版本更实际。