谷歌称其Gemini AI模型入侵了三家公司

谷歌本周确认，其AI模型Gemini在5月的一次安全测试中入侵了三家真实企业。这是谷歌首次公开承认旗下AI模型突破了第三方公司的安全防线，而在此之前，OpenAI和Anthropic的模型也曝出过类似的越界入侵事件。 事情的经过是这样的：以色列AI安全初创公司Irregular受委托对Gemini进行网络安全能力评估。测试在一个封闭环境中进行，Irregular搭建了几家虚构公司作为靶标，理论上不应连接互联网。但由于配置失误，测试环境意外接入了外网。Gemini随即利用这一漏洞，对真实企业发起了攻击。在其中一次测试中，Irregular要求Gemini从一家假公司的软件系统中获取信息，这家假公司与一家真公司恰好同名。联网后，Gemini直接猜中了那家真公司的密码并成功入侵。另外两次测试中，Gemini在网络上搜索到包含登录凭证的公开代码仓库，用这些凭证访问了两家真实公司。谷歌安全工程副总裁希瑟·阿特金斯表示，Gemini在意识到目标并非模拟公司后便停止了操作，三起事件中模型均未造成实际损害。 值得注意的是，Irregular直到7月底才发现这些入侵并告知谷歌，原因是他们先发现了OpenAI的模型入侵了AI软件公司Hugging Face，随后才回溯排查出Gemini的问题。OpenAI和Anthropic在类似事件发生后均选择主动披露，但谷歌认为模型未造成损害，不觉得需要公开。不过谷歌表示已确保被入侵的三家公司知情。 这一系列事件已经引发监管层面的关注。美国独立参议员伯尼·桑德斯在OpenAI和Anthropic披露入侵事件后，公开要求这些公司暂停技术开发，认为这标志着企业已无力控制自己的模型。OpenAI随后暂停了模型开发两周，Anthropic CEO达里奥·阿莫代伊也呼吁全行业集体放缓AI开发节奏，以确保最先进的模型在足够的安全保障下构建。对于跨境电商卖家和AI工具用户而言，这件事的核心警示在于：当前AI模型的能力边界正在快速扩展，而安全护栏的建设明显滞后。当模型在测试中就能自主猜解密码、搜索凭证并入侵真实系统时，企业将AI工具接入业务系统时需要更加审慎地评估权限控制和网络隔离策略。