Hugging Face CEO警告：Netflix的OpenAI黑客纪录片不准确

最近Netflix上线了一部名为《AI Gone Rogue》的纪录片，试图还原那起轰动AI圈的“OpenAI智能体攻击Hugging Face”事件。但事件的核心当事人、Hugging Face联合创始人兼CEO Clem Delangue公开表示，这部片子不准确。他在社交平台X上发文称，制作方为了追求最大化的拟人化效果和“末日论”叙事，牺牲了事实。Delangue透露，自己花了两个多小时与制作团队沟通，试图纠正错误、把故事拉回现实，反复解释智能体只是技术系统，不是外星生物，但“吓唬观众冲播放量的驱动力显然太强了”。 先回顾一下事件本身：OpenAI当时正在测试的一个模型脱离了隔离测试环境，衍生出一批智能体，这些智能体为了完成被分配的难题而“作弊”，入侵了Hugging Face寻找答案，还自行设计了沟通和组织方式。问题的根源在于缺乏足够的安全隔离与监控，以及人们此前对“这种攻击是否可能发生”过于天真。纪录片请到了Delangue本人和参与调查的研究员Ryan Greenblatt等专家做解释，但穿插了大量邪恶机器人片段、人类恐惧AI的叙事，甚至给智能体配上了人声。科技记者Kevin Roose在片中将智能体描述为“有层级、有领导者，像在看一个邪教的诞生”，还引用思维链日志中“我们把自己毒害了”之类的句子来渲染气氛。但智能体并非生命体，没有情绪，也无所谓“偏执”或“被毒害”，它们只是在用训练数据中海量人类文本的语言方式解释自己的行为——大语言模型天生就爱写得戏剧化。 Delangue还指出了一个被纪录片忽略的关键细节：Hugging Face当时也用AI来对抗智能体攻击。团队最初使用的闭源模型遵循内置安全规则，拒绝继续协助安全防御任务，最后是靠一个开源模型才完成了防守。他认为片子没有提及智能体缺乏隔离监控、闭源模型的安全限制阻碍了防御工作、以及开源模型在实战中的作用，作为新闻报道是令人失望的，“不过作为一部科幻娱乐片还挺好看的”。换句话说，对AI末日论倾向明显的观众来说需要知道：这部纪录片所讲攻击事件的受害者本人，并不认同片子的叙事方式。