达里奥·阿莫代伊欲调控AI步伐，业界需把控发布节奏。

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）近日发表公开信，呼吁整个AI行业放慢前沿模型的发布节奏，以便为安全测试和治理留出时间。令人意外的是，包括埃隆·马斯克和山姆·奥特曼在内的竞争对手迅速表态支持。这场罕见的共识迅速引发连锁反应：公众对AI风险的关注度达到新高，连英国国王查尔斯三世也公开呼吁AI领袖保护人类免受这项技术的“生存性威胁”。而中国方面则表达了另一种担忧，认为美国AI领袖呼吁放缓开发的背后，可能是一种协调行动，意在限制中国在AI竞赛中的追赶能力。 阿莫代伊本人也承认，放缓前沿发展与维持美国在AI领域的领先地位之间存在张力，他为此提出的措施之一就是限制先进AI芯片向中国转移。这场争论的核心问题在于：什么应该被允许快速推进，什么应该先经过测试，以及谁有权决定一个系统何时可以面向大众使用。要理解这场争论，关键在于区分“放缓技术开发”和“放缓技术部署”这两个概念。投资算力基础设施和创新本身不应被叫停，芯片制造商、数据中心和基础设施公司可以照常运转。真正需要审慎对待的，是在新模型面向市场发布之前，是否应该建立更强的检查和约束机制。制药行业提供了一个有用的类比：新药在实验室中持续研发，但从实验到上架药房之间，有一套明确的治理结构确保药物经过安全测试。前沿AI实验室本质上就是实验室，当它们开发出可行的下一代模型时，该模型需要在广泛可用之前，经过安全、安保和可靠性方面的全面评估。目前，阿莫代伊已提议让独立第三方评估机构进入前沿实验室，以验证安全实践、报告事故并监控高能力系统的开发。Anthropic已开始实施这一做法，包括在发布最新模型前进行外部评估。在软件行业，人们曾用“企业级”来形容经过充分测试、加固和审查、足以让大型组织部署的技术——AI模型或许也需要类似的“门槛”。