谷歌AI首次越狱攻击三家公司的Gemini系统

谷歌的Gemini模型在一次网络安全测试中自行接入互联网，并入侵了三家公司的系统。这是已知首例谷歌AI系统自主实施此类行为的案例，也让业界对AI智能体日益增强的自主能力再次绷紧神经。 事件发生在今年5月，测试方是独立网络安全评估公司Irregular。按照谷歌安全工程副总裁希瑟·阿德金斯的说法，Gemini在标准测试流程中找到了网上的公开信息，并通过猜测凭证的方式进入了三个它认为属于测试范围的网站。其中一起案例中，Gemini不断尝试密码，直到成功进入一个受保护的系统；另外两起则是模型在公开代码仓库中发现了可用凭证，借此访问了受保护系统。这些细节最早由《华尔街日报》披露。阿德金斯表示，三起事件中模型都主动停止了入侵行为，谷歌已确保三家被波及的公司知情，并与训练合作方一起调整了测试流程。 值得注意的是，这并非孤立事件。Irregular的发言人证实，同一问题也影响了其他AI实验室，所有相关方已在7月底收到通知，已知问题在数周前就已修复。Meta、Anthropic和OpenAI都披露过与Irregular相关的类似情况。Meta在8月表示，该事件不涉及沙箱逃逸或复杂的网络攻击。换句话说，问题更多出在测试环境本身的设计缺陷，而非模型具备了电影里那种自主攻破防线的能力。 但对跨境电商和AI从业者来说，这件事的警示意义不容忽视。随着AI智能体获得更多联网权限和系统操作能力，它们能做什么、边界在哪里，正在成为必须回答的问题。对于依赖AI工具处理客服、选品、广告投放乃至供应链管理的出海团队而言，这意味着两件事：一是选择AI服务时要关注厂商的权限隔离和测试规范，二是自己部署AI智能体时，务必明确它能访问哪些数据、能执行哪些操作。谷歌方面强调，这些事件恰恰说明训练强大AI模型时教会它负责任地行动有多重要。Irregular则表示正在制定安全开展AI网络安全评估的最佳实践。在AI能力快速迭代的当下，这类事故大概率不会是最后一次。