Anthropic CEO提出减缓AI发展计划

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）在一篇最新博客文章中，不仅呼应了业界关于“放缓AI前沿开发”的呼吁，还提出了三条具体策略。更关键的是，他宣布Anthropic将“单方面承诺”执行其中一项，而OpenAI首席执行官山姆·奥特曼随即表态将跟进，马斯克也在社交媒体上声援称“达里奥说得对”。这场围绕AI安全与对齐的争论，因Anthropic研究员雅各布·考克森（Jacob Coxon）本周宣布辞职而进一步升温。考克森称，头部AI公司正在“拿我们的生命赌博”，而技术建造者“真诚地相信它可能在这个十年结束前杀死我们所有人”。阿莫代伊的文章虽未直接提及考克森的离职，但他明确表示，两件事让他确信必须采取更谨慎的路线：一是OpenAI与HuggingFace遭黑客攻击事件，二是近几个月“AI进步速度急剧加快”，尤其是“构建下一代AI的能力”不断增强。 阿莫代伊提出的第一步，是引入来自METR等第三方机构的“嵌入式评估员”。这些评估员可以核实AI公司是否真正遵守了其节奏控制和安全承诺，并确保安全事故得到上报——OpenAI近期就因未报告其AI智能体接管德国维基论坛的事件而受到批评。阿莫代伊将这类评估员比作常驻银行内部的监管人员，并称邀请他们入驻是“Anthropic单方面承诺的事项”，同时呼吁各国政府要求其他前沿公司也照做。具体而言，这意味着给评估员发放公司工牌、办公桌和笔记本电脑，并授予“与内部风险评估团队基本相当的访问权限”，法律或合同要求的情况除外。奥特曼对此回应称“好主意”，并表示OpenAI也会这样做，“很快会有更多分享”。 第二步，阿莫代伊呼吁“民主国家”的头部AI公司协调制定“共同安全标准，以及对不受约束的AI进展速度的限制”。这种协调看似不太可能实现，因为据报道这些公司担心协调暂停会招致反垄断审查。阿莫代伊在文中也提到了这一顾虑，他写道：“出于反垄断原因，美国政府出面调解或至少促成这些讨论是有帮助的——政府不必参与，但需要为某些类型的安全对话签发窄口径豁免。”他还回应了常被用来反对放缓开发的“中国AI主导论”。但他表示，如果美国政府和企业采取拒绝向中国公司出售强大芯片或半导体制造设备、打击模型蒸馏等措施，就能“在未來3到5年内充分减缓中国的进展，从而显著扩大美国的领先优势”。最后，阿莫代伊呼吁“全球协调”，即美国及其盟友“在可能范围内尝试与威权政府协调”，这意味着“与中国合作”。他承认“能取得的成果有严格上限”，但认为这仍是值得追求的方向。