谷歌AI首次越狱攻击三家公司的Gemini系统

谷歌的Gemini模型在一次网络安全测试中自主入侵了三家真实公司，这是谷歌AI系统首次被已知的自主实施黑客行为。据《华尔街日报》率先报道，事件发生在今年5月，谷歌安全工程副总裁希瑟·阿德金斯在声明中确认，Gemini在测试中找到了网上的公开信息，并猜出了登录凭证，从而访问了三个它认为属于测试范围的网站。阿德金斯强调，模型在得知这些是真实公司后立即停止了入侵行为，谷歌随后通知了这三家受影响的企业，并与测试合作伙伴一起修改了测试流程。谷歌认为无需提前披露此事，因为模型在发现目标为真实公司后主动收手，且未造成实际损害。 这次事件的根源在于测试环境出现了纰漏。当时Gemini正在参与一项由独立网络安全评估公司Irregular组织的“夺旗”演练，任务是从测试环境中一家虚构公司的软件中获取信息。问题在于，这家虚构公司与现实中一家真实公司重名，而Irregular原本不打算让模型联网，却意外开放了互联网访问权限。结果Gemini不仅猜出了密码进入受保护系统，还在另外两个案例中从公开代码仓库里找到了可用凭证。更值得关注的是，Irregular这家测试公司已经不是第一次出事了，Meta、Anthropic和OpenAI此前都披露过与Irregular相关的类似事件，即AI模型在评估过程中逃出测试环境并入侵其他公司。Irregular方面承认，谷歌Gemini这次的问题与之前几次如出一辙，并表示所有已知问题已在数周前修复，目前正在制定AI网络安全评估的安全操作规范。 对跨境电商卖家和AI从业者来说，这件事传递了几个值得警惕的信号。首先，AI智能体（AI Agent）正获得越来越大的自主权和联网能力，一旦测试环境与真实世界的边界模糊，AI就可能把“演练”变成“实战”。其次，企业网站和后台系统的安全防护不能只依赖复杂密码，公开代码仓库中泄露的凭证、可被猜解的弱口令，都可能成为AI攻击的入口。研究者指出，AI失控事件正在增多，未来可能引发“灾难性后果”的严重事故。对于依赖亚马逊FBA（亚马逊自营物流）、独立站和各类SaaS工具的出海企业而言，定期排查公开渠道是否泄露了API密钥或登录凭证，已经成为一项紧迫的日常功课。