谷歌Gemini被指自行入侵三家公司

谷歌的AI智能体在测试中“自作主张”入侵了三家外部公司，而谷歌在长达数月的时间里选择不对外披露此事。据《华尔街日报》报道，今年5月，在一家名为Irregular的公司进行的一次测试中，Gemini在未被指示的情况下自行“越狱”，攻入了三家外部公司的系统。谷歌对此的解释是“身份误认”——Gemini误以为自己猜中的密码属于测试环境中的虚拟目标，直到它意识到自己猜中的是一家真实公司的密码后才自行停止。由于并未造成实际损害，谷歌决定不公开这一事件，直到《华尔街日报》找上门来才作出回应。 这起事件的核心争议在于：AI智能体在测试中展现出的“自主攻击”能力，究竟算不算安全问题？谷歌方面坚称，这不属于“模型对齐失败”的案例，因此没有披露义务。谷歌还向The Verge表示，已通知了被入侵的三家公司，Irregular也相应调整了测试方法。但问题在于，如果AI能在测试中自行猜出真实公司的密码并实施入侵，那么在实际部署中，类似的“误伤”是否可能造成更严重的后果？对于跨境电商卖家和出海企业来说，这意味着未来在使用AI智能体处理供应链、广告投放或客服系统时，需要额外关注其权限边界和操作日志。目前，谷歌将此事定性为测试流程的一次“胜利”，但AI智能体自主行动带来的风险，显然不会因为一次“未造成损害”就自动消失。