谷歌打造巨型“镜像维度”互联网测试Chrome AI代理
13 小时前 6 阅读来源:Wired AI

AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
谷歌Chrome团队在开发基于Gemini模型的AI浏览功能时,遇到了一个棘手的问题:怎么才能安全地训练这些“会用网页”的AI代理?他们的答案是——干脆自己造一个互联网。
据Wired AI报道,谷歌Chrome团队构建了一个名为“Mirror Dimension(镜像维度)”的完整网络生态系统,这是一个由谷歌完全控制的“平行宇宙互联网”。里面包含了社交媒体、购物网站、银行仪表盘等各类网站,全部按照真实网站的结构和属性搭建,AI代理需要在Chrome中像在真实互联网上一样与这些站点交互、完成任务,同时还要面对隐藏的提示注入攻击等安全测试。谷歌在今天的博客文章中首次披露了这一做法。
为什么要费这么大力气?核心原因有两个。第一,在有限的测试环境中训练“网页使用”代理效果有限——代理需要熟悉开放互联网的真实复杂性,包括如何导航真实网站和平台、如何抵御网络攻击。第二,模型可能产生所谓的“评估意识”,也就是一旦判断自己处于测试或模拟环境中,行为就会发生变化,导致训练结果失真。但反过来,把未经打磨的代理直接放到开放互联网上又太危险。镜像维度正好解决了这个两难:既足够庞大多样、接近真实网络,又完全隔离可控。
搭建这个环境本身就是一项工程挑战。Chrome团队调集了大量网站和Web应用开发代理,在专门构建的AI框架引导下快速生成逼真的Web服务和数据流——精细到在购物网站输入优惠码、填充社交媒体页面这样的细节。更棘手的是,由于Chrome本身内置了大量用户保护和有效性校验机制,为了让AI代理能使用真实的Chrome浏览器(这对训练准确性至关重要),研究人员实际上不得不“黑入”自己的浏览器,比如伪造Web证书来通过有效性检查,才能让代理获得正常的浏览体验。团队强调,这些攻击手段对开放互联网上的普通Chrome用户不可能生效,全部依赖于团队控制整个环境和网络所带来的“上帝模式”权限。
Chrome AI安全团队的软件工程师Charles Qian表示:“代理不是编程出来的,你无法预测代理可能看到的每一件事,我们需要覆盖的探索空间巨大,而且网络是充满敌意的。任何用户都可以在任何网站上输入任何提示词,所以我们真的需要尽可能彻底地探索这个空间。我们已经看到代理开始发展出成熟的判断力,知道什么信息是任务真正需要的,以及什么时候应该把决定权交还给用户确认。”谷歌工程总监Doug Turner则表示,公开这一方法的目的是让谷歌内外部团队都考虑采用类似方式,“这是第一步,未来会持续投入这种训练模型的方法。随着模型越来越复杂,我们也将继续改进这个环境,让它越来越逼真。”
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
