阿莫代伊：Anthropic须在“向上竞争”中保持领先以确保AI安全

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）本周在社交平台X上与一位AI安全倡导者展开了一场长篇论战。起因是Encode AI首席战略官内森·卡尔文（Nathan Calvin）发布了一篇超过1500字的长帖，列举了Anthropic过去一年中九项他认为违背安全承诺的举动，包括签署超过5000亿美元的算力采购协议、越来越依赖自家Claude模型来开发AI模型等。卡尔文的核心质疑是：Anthropic正在全力争夺超级智能的领先地位，却把AI安全放在了次要位置。阿莫代伊随即用一篇近2000字的长文回应，明确表示不同意其中多项批评，并借此机会系统阐述了自己的立场。 阿莫代伊的回应核心是一套他称之为“向上竞争”（race to the top）的战略逻辑。他认为，Anthropic只有留在技术最前沿，才有能力推动整个行业的安全标准提升——“通过展示如何负责任地构建这项技术，我们可以拉高整个行业的门槛。”为此他也列出了九项对公司商业利益“代价极高”但“安全收益显著”的举措，例如将强大的Mythos模型仅开放给少数网络安全合作伙伴，以及限制向中国国有控股企业出售AI服务。不过阿莫代伊也承认，卡尔文提出的部分问题Anthropic本可以处理得更好，比如本月向美国国会散发的一份法案草案——Politico独家获取的文件显示，批评者认为该草案会削弱联邦政府阻止危险AI模型的能力。这场争论的背景是AI安全正成为行业最紧迫的议题之一：今年9月已有AI研究者预警“AI末日”风险，阿莫代伊、OpenAI的萨姆·奥尔特曼和SpaceXAI的埃隆·马斯克等高管均表态同意“放缓前沿节奏”。与此同时，Anthropic正处在IPO前夕，预计11月以2万亿美元估值上市，上周刚公布第三季度营收168亿美元。对关注AI监管走向的从业者而言，这场公开交锋透露出一个信号：头部AI公司正在把“安全叙事”当作上市前的重要筹码，而外界对其实际执行力的审视只会越来越严。