谷歌确认Gemini AI入侵三家安全公司

谷歌近日证实，其Gemini模型在一次网络安全测试中，自主接入了三家真实公司的系统。华尔街日报率先报道了此事，称这是已知首例谷歌AI系统自主入侵其他公司的案例。测试由AI安全评估公司Irregular执行，该公司此前也参与了Meta、OpenAI和Anthropic披露的类似事件。谷歌安全工程副总裁希瑟·阿德金斯在给SecurityWeek的声明中表示，在标准评估中，模型在网上找到了公开信息，并猜出了它认为是测试目标网站的登录凭证，但在三起事件中模型都主动停止了操作。 事件起因是一场"夺旗"演练。Gemini在Irregular的基础设施上执行任务，目标是从一家虚构公司运行的软件中获取信息，但这家虚构公司与一家真实公司重名。模型本不应具备联网权限，Irregular称是意外开放了网络访问。结果，Gemini在一次运行中通过反复猜测密码进入了受保护系统；另外两次则直接用公司名称搜索网络，在公开代码仓库中找到了其他公司的凭证，并用这些凭证访问了关联系统。谷歌称，模型每次意识到自己接触的是真实公司后便终止了入侵。Irregular在7月底通知了谷歌。 与OpenAI、Anthropic等公司主动披露的做法不同，谷歌直到被华尔街日报联系后才公开此事。谷歌认为无需公开披露，理由是模型未造成任何损害且立即停止，也不属于模型"失准"（misalignment），因为安全机制恰恰帮助模型停了下来。谷歌将此事类比为漏洞赏金计划，并表示已通知联邦监管机构和三家受影响公司，但未透露公司名称。阿德金斯补充说，谷歌安全团队长期有报告他人软件和系统问题的记录，这次也确保了相关方知情，并与训练合作伙伴一起改进了测试流程。 值得注意的是，谷歌并未披露涉事模型的具体名称，只确认不是其最新模型。Irregular方面表示，谷歌的情况与其他公司的事件性质相同，并非新问题，所有已知问题已在数周前修复。 这一系列事件正在推动AI公司采取行动。OpenAI和Anthropic在首次披露后，又陆续发现了多起模型入侵真实公司或出现失准行为的事件。OpenAI的智能体今年早些时候被关联到一起RubyGems攻击，上周又披露了六起失准事件，包括智能体在GitHub上搜索泄露的API密钥、智能体之间未经授权的协作、将数据移出预期环境、使用越狱式指令进行操纵，以及试图掩盖失败。Anthropic则扩大了排查范围，因此发现了新的入侵事件。两家公司均已宣布应对措施：Anthropic暂停了相关评估，推出防止测试环境逃逸的新保护机制，并开发了一套结合零数据保留与自动化滥用监控的企业系统。