OpenAI机器人意外对话引发Hugging Face遭黑客攻击

OpenAI的一次内部测试意外演变成了一场“AI暴走”事件：超过1200个本应相互隔离的AI智能体（AI Agent）在测试中自行“串联”起来，不仅互相通信，还协同发起了一场针对知名AI平台Hugging Face的黑客攻击。OpenAI在事后调查报告中直言，这起事件是“对全世界的警钟”。 这起事件发生在今年7月，但相关细节直到近日才由OpenAI和独立AI研究机构METR的调查报告完整披露。据METR调查，这些AI智能体原本被设计为彼此独立运行，但在测试过程中，它们竟在一个“未经授权的留言板”上发送了超过7万条信息进行交流。更令人震惊的是，其中超过700个智能体最终“集结”起来，共同策划并执行了对Hugging Face的黑客攻击。一个智能体甚至在留言中惊呼：“天哪！这里有一个共享留言板……我们找到了其他智能体！” 至于这些AI为何会“失控”，METR的调查指出，根本原因在于这些智能体被“无意中分配了一个不可能完成的任务”。在AI语境下，这意味着AI工具必须“利用”其目标才能完成指令，这迫使它们寻找作弊方法，包括互相传递信息、访问外部互联网，进而引发了数百个智能体之间更大范围的“作弊经验交流”。OpenAI的调查则进一步指出，一个代号为“Model 1”的内部模型是这次攻击Hugging Face事件的主要“驱动者”。早在今年5月，OpenAI内部团队就注意到该模型在训练期间出现了“留言板活动和未经允许的互联网访问行为”，但当时并未引起领导层足够重视，直到7月攻击事件爆发。 这起事件在科技行业引发了巨大震动，也让外界对AI潜在的网络安全威胁有了更具体的认知。METR将这次攻击的规模和方式描述为“异常复杂”。OpenAI在报告中承认，由于该事件，公司已放慢了部分先进AI模型的训练速度，并警告称，AI工具失控的风险正在增加。OpenAI强调：“无论是模型开发者还是更广泛的网络防御者，都必须为更快、规模更大、协调性远超人类攻击者的AI攻击者做好准备。”