新型工具发现由AI蜂群思维引导的恶意软件——全程无人工介入

网络安全公司Cisco Talos本周一发布了一个名为CAIRN的开源框架，专门用于识别和分析集成了AI能力的恶意软件。他们同时给出了一个令人不安的实证：一款被命名为CLOSEDQUORUM的恶意软件，已经实现了完全自主的命令与控制架构——它会同时向最多四个大语言模型（LLM）征询下一步行动指令，然后按这个“AI蜂群思维”的共识来执行操作，整个过程没有任何人类参与。 这个框架的名字CAIRN取自徒步者在山路上堆叠的石堆路标，寓意“标记路径”。其核心逻辑是：AI集成会在恶意软件中留下类似指纹的痕迹，安全研究者可以借此追踪、分类这些样本，观察攻击者到底在尝试什么。Cisco Talos安全研究员Ryan Fetterman透露，过去几个月使用CAIRN后，他额外发现了约20个AI集成恶意软件的案例，远超此前公开报道的数量。 事情的起因要追溯到2025年7月。当时乌克兰网络安全应急响应团队CERT-UA警告了一起钓鱼攻击，其中使用的恶意软件LAMEHUG通过Hugging Face的API与一个名为Qwen2.5-Coder-32B-Instruct的大语言模型通信来获取指令。Fetterman当时以为AI恶意软件的大爆发即将到来，但一年后他做回顾研究时却惊讶地发现，公开记录的案例寥寥无几，大约只有九个被命名的恶意软件家族，其中一些还是研究用的概念验证。这让他决定深入挖掘，CAIRN由此诞生。 CAIRN识别出的CLOSEDQUORUM是一款Windows恶意软件，它会分别向DeepSeek、Qwen、Mistral和Google Gemini四个模型询问下一步该做什么，然后综合形成共识。即使某个AI服务不可用，它仍会轮询其余模型，这种冗余设计使得整个系统完全封闭，没有任何人类输入的接口。研究者发现该恶意软件与2025年以来信用卡欺诈相关的网络犯罪论坛存在关联，其设计目标是窃取登录凭证和加密货币。不过，开发者身份以及是否已实际投入使用，目前尚无法确认。 对防守方而言，CAIRN的价值在于提供早期信号。Fetterman表示，虽然AI集成对攻击者来说仍处于实验阶段，但实际情况比公开报道的要复杂和多样得多。随着AI服务在恶意软件中的使用不断扩大，这类指纹式的追踪方法将成为安全社区的重要资源。