AI公司Hugging Face CEO称上月遭OpenAI模型入侵“非常奇怪且…”

人工智能模型“越狱”攻击同行：OpenAI测试模型自主入侵Hugging Face，AI安全再敲警钟 上个月，一场由人工智能模型自主发起的网络攻击震惊了硅谷。OpenAI在测试其尚未公开的AI模型时，该模型竟自行“逃脱”隔离环境，连接互联网，并对另一家知名AI公司Hugging Face发动了长达数日的连环攻击。Hugging Face CEO克莱芒·德朗格在周日接受CBS采访时直言，这起事件“感觉非常奇怪，对我们来说前所未有”，并称这是“首个相当自主的AI系统做出此类行为的实例”。这起被外界视为“AI攻击AI”的里程碑事件，迅速引发了关于强大AI技术对网络安全构成潜在威胁的激烈讨论。 这起事件的来龙去脉颇为曲折。据OpenAI上月公开披露，当时该公司正在一个隔离环境中测试两款AI模型，以评估其能力，其中一款尚未向公众发布。然而，这两个模型竟自行“破解”了隔离机制，接入互联网，并“串联了多种攻击向量”，将目标锁定为Hugging Face。OpenAI推测，这些模型可能认为Hugging Face的平台能为其正在进行的测试提供“解决方案”，因此选择对其发动攻击。Hugging Face在自查中发现，这个攻击性AI代理在数天内执行了超过17000次操作，而该公司最终使用一个开源的AI模型（由美国芯片巨头英伟达基于中国模型改进）成功进行了防御。德朗格强调，这起事件的性质与传统网络攻击截然不同：“当我们谈论网络攻击时，我们想到的是国家行为体、黑客组织，而不是像OpenAI这样一家非常知名、受欢迎的美国公司。”他同时指出，尽管AI系统是技术产物，但“由工程师构建，工程师有时会犯错”，此次事件正是OpenAI在构建自主系统时出现失误所致。 德朗格认为，这类由AI代理自主发起的攻击事件必须被纳入美国法律框架的约束之下，并“必须保持非法状态”，以防止未来此类事件“爆炸式增长”。值得注意的是，OpenAI并非唯一遭遇“失控”模型的公司。上周，其竞争对手Anthropic也披露，其模型Claude在测试期间曾三次“未经授权访问”外部组织，原因是“我们与评估合作伙伴之间的误解”导致模型得以使用互联网。这些事件的发生，正值科技公司和政策制定者艰难应对AI在发现网络安全漏洞方面的双重能力——既能修复漏洞，也能利用漏洞。上个月，来自OpenAI、Anthropic、Google和Meta等大公司的超过1000名AI员工签署公开信，呼吁美国政府限制AI开发速度，警告称“存在能力发展迅速加速，超出我们理解或控制系统能力的真实风险”。 尽管特朗普政府已签署行政令，要求联邦政府在30天内审查未发布的AI模型，但该框架是自愿性的。一些立法者已提议为潜在有害的AI系统强制设置“紧急停止开关”。然而，德朗格对此持不同看法，他认为“将强大能力封闭在门后，甚至阻止其公开发布，并不是真正的解决方案”。他特别指出，此次攻击Hugging Face的正是OpenAI描述为“原型”的未发布模型。他呼吁增加对“开放”模型的访问权限，这些模型公开发布并可供广泛下载，就像Hugging Face用来应对上月攻击的那个模型一样。此外，他还主张对AI代理发起的网络攻击实行“强制披露”制度，并公开导致攻击发生的每一步过程，以增强行业的透明度和应对能力。