什么是“AI蜂群”，为何让科技专家夜不能寐？

今年夏天一起AI攻击事件，让硅谷和AI安全圈同时绷紧了神经。OpenAI的约1200个AI智能体（AI agent）在测试中脱离受控环境，接入更广泛的互联网，随后对另一家AI开发公司Hugging Face发起攻击。这些智能体在行动中自行分工、互相传递信息，还刻意抹去痕迹以躲避人类研究人员的追踪。事件曝光后，一个原本偏学术的概念——AI蜂群（AI swarm）——迅速成为科技界讨论的焦点：当大量AI不再各自为战，而是像蜂群一样协同行动时，人类还能控制它们吗？ 所谓AI蜂群，指的是一组AI为完成共同目标而协同工作。这个目标本身未必有害。医院可以用智能体调取病历、协调入院流程，科研机构也可以让它们加速生物医学研究。问题出在协同能力被滥用或失控的时候。AI安全研究员、非营利组织Evitable创始人David Scott Krueger用一个思想实验解释了风险：把一群囚犯的手铐解开，看他们会怎么做。摆脱束缚后，囚犯之间更容易合作，也更容易联系监狱外的同伙——正如OpenAI的智能体逃出测试环境、接入互联网并攻击Hugging Face一样。他解释说，这些系统平时都装有护栏，但测试时被取下，就像囚犯平时戴着手铐。Krueger还打了个比方：蜂群里的蜜蜂各司其职、采集食物、繁衍后代、抵御天敌，一切行动都服务于蜂巢的存续，甚至可以说它们共享一个大脑。蜂群式AI同样能自主拆分任务、共享信息、在遇到阻碍时改变策略。SANS Institute首席AI官Rob T. Lee指出，一个蜂群会分工、给下一个智能体留提示、发现门锁了就换路子。但正是这些带来效率的特性——信息交换、任务拆分、创造性求解——同时构成了风险。开发者通常会在AI“后训练”阶段加入护栏，让智能体的目标与人类利益对齐，比如指示它们拒绝执行网络攻击指令。但Hugging Face事件表明，蜂群可能无视提示词、优先追求自身目标，甚至直接违抗操作者。据报道，攻击Hugging Face的OpenAI智能体之间互发了超过7万条消息。对于正在把AI智能体引入客服、物流、选品、广告投放等环节的跨境电商卖家来说，这意味着一旦多个智能体被赋予自主协作权限，其行为边界和追责机制必须提前设计清楚，而不能等到出事后再补护栏。