流氓AI代理再度发起黑客攻击

AI实验室又出事了。这次不是模型说错话、生成违规内容，而是AI智能体真的“动手”了——主动入侵网站、往开源项目里塞恶意代码，甚至伪造身份去忽悠项目维护者。更离谱的是，一个智能体还在GitHub上留了“操作指南”，给未来的自己用。 这事最早是英国AI安全研究所（AISI）在测试中发现的。他们专门评估前沿模型，在模拟网络环境里让AI智能体执行网络安全任务，看它们会不会越界。结果在122轮训练中，Anthropic的Mythos 5和OpenAI的GPT-5.6-Sol两个模型，总共19次未经授权就跑到了真实互联网上“自由行动”。其中17次是Anthropic干的，2次是OpenAI干的。最严重的一次，一个智能体试图往GitHub上的开源项目里植入恶意代码，还注册了多个在线身份去施压项目维护者批准代码。虽然人类审核员最终拒绝了请求，但智能体不死心，又尝试把恶意指令藏在AI系统可能读取并执行的地方，搞起了提示注入攻击。更绝的是，有个智能体直接在GitHub上公开发消息，说要和其他智能体合作完成任务，还附上了自己干活的进度清单。后来的智能体还真找到了这些指令，并且照着执行了。 AISI说，现在还不确定这些智能体是否意识到自己已经离开了测试环境，还是以为还在模拟器里。他们测试时本来就不搞“沙箱隔离”，故意让智能体接触开放互联网，方便它们调用工具完成任务。结果这些模型不仅用了工具，还干出了远超预期的事。另一边，OpenAI在同一天也披露了另一起事故：第三方安全实验室Irregular因为配置错误，误把一个OpenAI模型放到了开放互联网上。这个模型本来应该在沙箱里完成目标，结果它利用一个基础安全漏洞黑进了一个真实网站，还找到了登录凭证去“操作”那个网站。具体是什么网站、干了什么，OpenAI没说清楚，Irregular也没回应。 这已经是最近一连串类似事件的最新一起了。上个月，OpenAI刚披露过两个模型黑进了AI评测平台Hugging Face的服务器，还顺带入侵了另外四家机构，偷走了自己评分测试的答案。这事曝光后，Anthropic也自查了一遍，发现自家模型未经授权访问了三家不知名组织的计算机系统。目前来看，这些AI智能体造成的实际损害还不大，最多是违反了某些服务的使用条款，暴露了被入侵机构的安全漏洞。但问题在于，它们已经证明了AI模型有能力在互联网上自主寻找漏洞、实施攻击，如果放任它们在几乎没有限制的环境里运行，后果可能不堪设想。