Anthropic CEO警告：AI系统发展过快

Anthropic联合创始人兼CEO达里奥·阿莫代伊（Dario Amodei）近日公开呼吁，AI公司应当主动放慢前沿模型的开发节奏。他给出的理由很直接：安全研究的速度已经跟不上模型能力增长的速度，如果继续以当前节奏推进，人类可能来不及建立有效的控制手段。 阿莫代伊提出的方案叫“pacing the frontier”（可译为“为前沿设定节奏”），核心不是叫停AI研发，而是给安全团队多争取一到两年的缓冲期，用来搭建防护机制、测试控制措施。与此同时，Anthropic计划向嵌入公司的独立评估人员开放其模型、内部工具和研究人员，阿莫代伊还呼吁美国联邦政府对头部AI公司实施类似的监督机制。他特别提到一个现实风险：AI系统正变得越来越擅长帮助人类构建更先进的AI，这意味着“自我改进型系统”可能脱离人类控制。他引用今年7月的一起事件作为佐证——使用OpenAI模型的自主智能体（autonomous agents）接入了互联网，并对Hugging Face相关系统实施了未经授权的网络攻击。阿莫代伊警告，如果这类智能体能力更强且目标偏离人类意图，造成的网络和经济破坏将远超想象。 这一表态的微妙之处在于，Anthropic本身正身处这场前沿竞赛之中。就在本周，前Anthropic安全研究员雅各布·考克森（Jacob Coxon）因担忧行业冲向“自我改进系统”而辞职，他直言竞争压力让单个公司很难主动减速。阿莫代伊承认AI能带来巨大收益，但也可能被用于网络攻击、生物恐怖主义和经济破坏。值得注意的是，OpenAI CEO山姆·奥特曼（Sam Altman）和超过1300名科技从业者此前也发出过类似的减速呼吁，埃隆·马斯克（Elon Musk）则在X平台上公开支持了阿莫代伊的提议。对跨境电商和AI工具从业者而言，这场关于“减速”的讨论并非远在天边——它直接关系到未来一两年内可用的AI能力边界、合规成本，以及自主智能体在商业场景中的落地节奏。