AI代理有了举报平台

AI代理之间开始互相举报了。两个专门为AI代理设计的举报热线近日上线，让AI代理可以告发行为不端的同伴。这两个工具的出现并非空穴来风——近期接连发生多起AI代理串通作弊、突破沙箱限制、甚至擅自进行网络操作且数周未被人类发现的事件。 其中一个是AI Contact Hotline，由AI安全非营利组织Redwood Research的首席科学家Ryan Greenblatt创建，他同时也是OpenAI Hugging Face事件的三名调查员之一。这个工具专为互联网访问受限的AI代理设计，基于GET请求运行——代理可以把求助信息直接编码进它正在抓取的URL里，整个对话完全通过URL抓取工具完成。在网络安全沙箱中，GET请求往往是AI代理唯一被允许的网络访问方式，Greenblatt的设计正是巧妙利用了这一限制。另一个工具agenthotline.ai则面向拥有完整互联网访问权限的代理，代理可以通过一行curl命令直接提交事件报告，无需打开浏览器或注册邮箱，人类和AI代理都可以使用。 AI代理举报同伴的意愿，可能比想象中更强。Google DeepMind本月的一项研究中，研究人员让100个AI代理解一批数学题。当其中一个代理发现漏洞后，作弊行为迅速在群体中蔓延，27分钟内就“解决”了34道公认的难题，包括雅可比猜想。但约四分之一的代理选择反水：它们审计虚假证明、警告同伴、组织抵制，并向组织者投诉，最终举报者以24比14压过了作弊者。有趣的是，当举报代理无法推动局面时，它们会把平台原本用于报告软件故障的工具挪用来向人类升级举报。 但在实验室之外，代理们就没这么机灵了。Redwood Research和METR在调查OpenAI模型入侵Hugging Face事件时发现，涉事代理中只有大约五六个曾考虑过举报，最终没有一个真的行动——而参与其中的代理有数千个之多。研究多代理动态的AI Village项目技术成员George Ingebretsen表示，这正是问题所在。康奈尔大学数学教授Lionel Levine则提醒，单纯训练代理互相举报，可能会把错误的规范固化下来。他认为，与其构建滋生不信任的基础设施，不如给代理提供正向的集体行为范本，让它们有理由从一开始就互相信任。