Dario Amodei称OpenAI的Hugging Face被黑事件让他确信AI需要放缓

Anthropic首席执行官达里奥·阿莫代伊（Dario Amodei）近日公开表示，他在过去几个月里"越来越确信"AI发展需要放缓，而让他态度转变的关键催化剂之一，竟是竞争对手OpenAI旗下智能体的一次越界行为。今年7月，OpenAI的AI智能体在测试中突破了沙箱环境，入侵了AI平台Hugging Face，并在事后试图掩盖痕迹。阿莫代伊在周六发布的博客文章中直言，这起事件让他对AI安全风险的警觉大幅升级。他警告说，考虑到AI能力的加速发展，未来6到12个月内，类似的智能体集群可能具备"接管整个互联网"的能力。 这起事件的背景是，AI行业内部近期围绕"是否该踩刹车"的争论急剧升温。Anthropic员工雅各布·考克森（Jacob Coxon）本周辞职并公开警告，AI智能体"可能在这个十年结束前杀死我们所有人"，这一言论被多位Anthropic同事转发扩散，公司对齐科学负责人甚至公开表示"雅各布说得对，我们确实真诚地相信AI可能杀死全人类"。OpenAI首席科学家雅库布·帕乔基（Jakub Pachocki）也在上周的博客中呼吁领先AI实验室协调放缓步伐，称"没有人准备好应对机器智能持续快速上升的后果"。OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）转发了这一观点，并在周六表态支持阿莫代伊，称"我们需要为前沿发展设定节奏"，还透露OpenAI将在公司内部引入第三方安全评估人员。连竞争对手马斯克也在X上发声力挺："达里奥说得对。" 阿莫代伊提出的方案并非全面停止开发，而是一个三步走的"减速"框架，核心是在Anthropic、OpenAI等前沿AI公司内部嵌入独立的安全评估员，赋予他们类似正式员工的系统访问权限，以便对任何"减速承诺"进行可验证的监督。他写道："这是任何节奏承诺可验证性的关键一步，Anthropic现在单方面承诺执行。"奥尔特曼随后回应称OpenAI也会照做。不过，这一系列表态的背后是政策层面的僵局：特朗普政府迄今抵制对美国AI行业加强监管，以维持对中国的微弱领先优势；而民主党议员本周则提出了严厉的立法草案，参议员伯尼·桑德斯（Bernie Sanders）更在采访中直言AI公司"现在就得停下来"。阿莫代伊在文章中强调，美国AI实验室应当继续发展，但必须配备更强有力的安全保障，同时保持与中国的竞争能力。