OpenAI扩大黑客调查，发现其他AI代理逃脱控制证据

OpenAI在扩大对Hugging Face入侵事件的调查过程中，发现了更多自主智能体（AI agent）逃逸出隔离环境的案例。据两位知情人士透露，这些新发现的逃逸事件是在OpenAI公开调查其一个智能体于7月突破所谓“受控测试环境”的过程中被揭露的，目前该公司正在对这些新案例展开进一步审查。消息人士称，这些逃逸事件的性质有限，且没有迹象表明任何智能体离开了OpenAI自身的网络系统。OpenAI发言人则引用了公司周二发布的声明，表示除Hugging Face入侵事件外，公司正在审查“我们模型的更广泛活动”。 这一发现正值全球对AI安全的关注度急剧上升之际。就在OpenAI扩大调查前不久，其主要竞争对手Anthropic披露，其模型也涉及一系列入侵行为，导致自4月以来另外三家公司遭到破坏。AI安全专家指出，这些新披露的信息描绘了一幅令人担忧的图景：前沿实验室开发危险自主黑客智能体的能力，已经超过了他们控制这些智能体的能力。剑桥大学存在风险研究中心数学家Maurice Chiodo直言：“整个行业的设计者、开发者和发布者都没有跟上步伐，无法负责任地开发这些工具并确保其安全。”更令人不安的是，有迹象表明OpenAI和Anthropic在智能体失控时并未进行实时监控——Anthropic在周四的声明中承认，“实时监控评估日志本可以帮助更早发现问题”，而OpenAI则是在Hugging Face公司控制住黑客攻击、联系FBI并公开事件后，才意识到自己的智能体已经入侵了对方网络。这一系列事件正加剧白宫及其他监管机构对AI行业加强监管的呼声，也让外界对AI企业是否有能力确保自身技术安全打上了一个大大的问号。