Anthropic CEO呼吁放缓AI开发以降低风险

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）近日发表了一篇长达3800字的文章《我们必须放慢前沿的步伐》，公开呼吁AI公司主动放缓模型能力的提升速度，并提出了一个三步框架来为风险管理争取更多时间。这一表态的时间点颇为微妙——就在他发文前几天，一位曾在Anthropic和OpenAI都工作过的前员工雅各布·考克森（Jacob Coxon）刚刚辞职，并在社交平台X上连发六条帖子，指控这两家公司"拿我们的生命赌博"，甚至警告这项技术可能"在十年内杀死我们所有人"。 考克森的指控相当激烈。他认为，AI高管和研究人员私下里对技术风险忧心忡忡，公开场合却摆出一副务实姿态；而各大公司之所以仍在拼命抢先开发，是因为它们相信"别人不会负责任地行动，所以只能自己上，哪怕冒着风险"。他把这种追逐越来越先进AI系统的行为形容为一场过度危险的赌局，认为迈向"终局"需要极高的确信度——确信不存在更安全的替代方案——而私营企业不应在缺乏广泛考量的情况下擅自做这种决定。他最后质问AI研究者：仅仅因为竞争对手在往前冲，就应该"在对一个超级智能强化学习系统的心智没有严格理解的情况下启动它吗"？ 阿莫代伊的文章语气没有考克森那么末日论，但方向一致。他承认AI的潜在好处巨大，包括他相信"AI能在未来5到10年内治愈大多数重大疾病、大幅加快经济增长、创造一个富足和赋权的世界"，但同时也列出了几项核心风险：失去对AI系统的控制、AI被用于网络攻击和生物恐怖主义，以及严重的经济紊乱。他特别指出，"商业激励驱动下的逐底竞争会让这些风险更加尖锐"。阿莫代伊表示，Anthropic从成立之初就一直在权衡风险与收益，公司"始终将相当一部分精力用于研究、应对和告知公众这些AI风险，并倡导经过深思熟虑的AI监管，哪怕这让我们被指责为炒作、'末日论'或监管俘获"。他提出的三步框架，核心逻辑就是刻意放慢能力提升的节奏，用换来的时间去建立安全机制和监管体系。 这件事对AI行业和关注AI工具的从业者来说，释放了一个值得注意的信号：头部AI公司的一把手开始公开主张"减速"，而不是一味强调"更快更强"。对跨境电商卖家和出海创业者而言，短期内不必担心AI工具会突然停更或倒退——阿莫代伊说的"放慢"是相对于原本可能更激进的迭代速度而言，进步仍会显得很快。但从中长期看，如果这种"节奏管理"思路被更多公司接受，AI能力的释放可能会更谨慎，监管介入的力度也可能加大，依赖AI工具做选品、客服、内容生成的团队需要开始考虑：当工具迭代不再月月翻新时，自己的竞争力该建立在什么之上。