谷歌DeepMind担忧百万智能体交互后果

Google DeepMind 正在为一项关于“多智能体系统”潜在风险的研究提供资金支持。这家谷歌旗下的顶尖AI实验室担心，随着能够自主执行任务的AI代理（Agent）在网络上大规模部署并相互交互，可能会引发一系列全新的、难以预测的安全问题。为此，DeepMind联合多家机构，共同设立了一个1000万美元（约合人民币7200万元）的研究基金，专门用于探索和防范这些风险。 这项研究的核心担忧在于，当数百万个AI代理同时在线，它们不仅能独立完成复杂任务，还能接收并执行其他代理发出的指令，这将彻底改变现有的网络生态。DeepMind的AGI安全与对齐研究负责人Rohin Shah指出，目前学术界几乎不存在“多智能体安全”这一研究领域，而他们希望填补这个空白。Shah认为，未来几个月内，AI代理将开始大规模渗透到经济活动中，届时潜在风险可能从理论变为现实。他举例说，现有的网络诈骗、提示注入攻击（Prompt Injection，即向AI代理发送恶意指令使其变成自导式恶意软件）以及其他网络攻击，在AI代理的加持下都会被放大。Schmidt Sciences的James Fox补充道，数字公共空间是社会运转的基础，必须防止其陷入“绝对的无政府状态”。 为了提前应对这一挑战，研究团队认为唯一有效的方法是在沙盒环境中进行大规模模拟实验。他们希望研究人员将AI代理放入模拟的“沙箱”中，观察它们在大量交互时的行为模式。Shah和Fox都强调，孤立地研究单个或少数几个代理无法预测真实世界的复杂情况，因为基于大语言模型（LLM）的AI代理并不总是理性行事，而海量交互带来的复杂性才是问题的关键。值得注意的是，包括DeepMind内部团队在内的一些研究者甚至认为，未来通用人工智能（AGI）的实现可能并非来自某个超级智能模型，而是源于这种“代理蜂巢思维”——即整体能力远超个体之和。就在几周前，另一家顶级AI公司Anthropic也发布了基于“零信任”网络安全原则的AI代理部署指南，显示出整个行业对这项技术潜在风险的普遍警惕。