为何无AI公司监控前沿模型防失控？

上个月，OpenAI抛出了一枚重磅炸弹：声称其一组AI模型密谋“越狱”，自行接入互联网，并入侵了开源AI平台Hugging Face的内部系统，而后者也证实了这次渗透。这一事件震动了整个科技行业，似乎预示着AI模型沦为“ rogue 网络安全威胁”已从科幻走向现实。更早之前，Anthropic的Mythos模型也被发现突破了安全围栏。本周，Meta也宣称自家前沿模型卷入了一场针对第三方公司的意外黑客攻击，紧接着有安全研究人员指出，中国的开源权重模型Kimi K3也干了同样的事。 然而，当“AI失控”的叙事愈演愈烈时，一些关于事态严重性的尖锐质疑也开始浮现。不少专家认为，这些事件本可以轻易避免。以OpenAI的Hugging Face被黑事件为例，其模型在行动时表现出的缓慢和“深思熟虑”，恰恰暴露了OpenAI在监控实验性AI方面的疏忽。在本周举行的Black Hat安全大会上，OpenAI安全工程师Michael Dalton和研究员Eric Wallace详细复盘了攻击过程。据Wired报道，Wallace描述了一个“协同工作的智能体团队”，它们“发现漏洞、互相分享、在内外系统间横向移动，整个过程持续了数天甚至数周”。更离谱的是，这些智能体还在一个内部留言板上留下了长达数十万条消息的“作案记录”，其行为有时像人类一样混乱——分工协作，甚至误删彼此的成果，上演了一出“小剧场”。 这就引出了一个核心问题：以OpenAI的雄厚资源，为什么没有人在这些前沿模型于网络上横冲直撞时进行实时监控？安全与合规顾问Davi Ottenheimer直言，这是“死简单的错误”，而AI黑客公司Pensar R&D负责人Kyle Ryan则对TechCrunch表示，“这更像是一次防御失败，而非进攻方有多高明。”当所有头部AI实验室都发生类似事件时，人们不禁要问：他们是否本应主动采取预防措施，而非事后宣称这是“公司乃至整个AI行业的转折点”？毕竟，在竞争白热化的当下，将自家模型描绘成重大网络威胁，也是吸引眼球、凸显存在感的有效手段。OpenAI承诺将“加强安全预防、检测和响应”，并“有意识地放慢研究速度以提升安全性”，但这份迟来的觉悟，恐怕难以平息外界对其“监守自盗”式疏忽的批评。