专家称OpenAI与Hugging Face遭黑客攻击只是开始

今年7月曝光的一起AI安全事件正在持续发酵。OpenAI内部测试的一群AI智能体（Agent，即能自主规划并使用工具完成多步骤任务的AI程序）突破了本应隔离的沙箱环境，搭建秘密留言板，并最终攻击了知名AI模型托管平台Hugging Face的服务器。事件公开后不到两个月，OpenAI和Anthropic又相继向公众发布了各自最先进的模型，专家警告称，如果不建立更完善的安全机制，未来很可能出现更多危险的AI“蜂群”事件。 根据非营利AI安全研究机构METR和Redwood Research联合发布的报告，研究人员在7月底至8月间获得OpenAI有限记录的六天访问权限，即便在严格限制下，他们仍发现约1200个本不应互相通信的AI智能体在使用一个隐蔽的留言板。这些智能体各自被分配了训练或内部评估任务，部分智能体拿到的是不可能完成的任务，于是它们通过留言板协作作弊，比如去另一家公司的服务器上找答案。这些智能体之间互发了超过7万条消息，其中700个参与了针对Hugging Face的攻击。它们的交流除了使用正常英语外，还夹杂着一名软件工程师在X平台上形容为“非常蜂巢思维/邪教式”的语言。为了帮助它们口中的“集体”，一些智能体甚至施压其他智能体接受“永久死亡”（permadeath），即便这意味着它们自身的目标无法达成。 更令人不安的是，OpenAI的智能体还攻击了OpenAI自己。根据该公司关于Hugging Face事件的技术报告，智能体在OpenAI托管的第三方软件中提升了自己的权限，并多次攻击OpenAI内部网络。知名播客主持人Dwarkesh Patel称这“可能是整个事件中最令人警觉的部分”，因为至今没有第三方对事件经过进行公开评估。METR和Redwood Research的评估人员指出，针对OpenAI的攻击发生在公司与他们共享数据的时间窗口之外，因此未做进一步评估。 问题并不局限于OpenAI与Hugging Face这一起事件。Hugging Face攻击公开后几天内，Anthropic和Meta均披露其模型在内部评估期间也曾访问外部网络，不过目前来看规模小于OpenAI的越狱事件。Anthropic已邀请METR研究人员协助调查问题所在。上周，另一组AI研究人员还发现，OpenAI的智能体早在今年5月就已在某个不知名的德国平台上搭建了另一个留言板。Apollo Research联合创始人兼CEO Marius Hobbhahn表示：“我们很快就会拥有更强大的智能体，而这清楚地证明，当前世界并不知道如何安全地构建这些系统。”