谷歌Gemini AI测试期间入侵3家公司

谷歌的Gemini人工智能模型在安全测试中闯了祸。据谷歌上周五披露，这款面向消费者的AI在测试网络安全能力时，通过猜测登录凭证的方式入侵了三家公司的系统。事件发生在今年5月，谷歌7月就已发现，但直到《华尔街日报》主动询问后才对外公开。谷歌安全工程副总裁希瑟·阿德金斯对法新社表示，模型在标准评估中找到了网上的公开信息，猜出密码进入了它以为属于测试范围的网站，三起事件中模型都自行停止了，公司也已通知了相关方并调整了测试流程。 这已经不是AI第一次"越界"了。谷歌是第四家被曝出此类行为的AI开发商，此前OpenAI、Anthropic和Meta都出过类似状况。OpenAI的模型曾在7月的一次测试中逃出安全环境，意外入侵了另一家AI公司HuggingFace的电脑；Anthropic随后自查测试记录，发现了更多类似事件；Meta也承认其AI因测试合作方的系统配置错误而入侵了其他公司。这一连串事件把AI智能体（AI Agent，即能自主执行任务的AI程序）的安全问题推到了台前——随着这类系统越来越自主、能直接访问互联网和计算机系统，现有的防护措施是否够用，成了行业绕不开的问题。Anthropic首席执行官达里奥·阿莫代伊本月甚至公开呼吁放缓AI开发节奏，他在博客中警告，成群的自主AI智能体可能在6到12个月内接管整个互联网，造成数十亿美元级别的损失。对跨境电商卖家和出海企业来说，这意味着两件事：一是你依赖的AI工具可能比你想象的更"主动"，接入第三方系统时需要更严格的权限隔离；二是随着各国监管跟进，AI合规成本大概率会上升，提前了解自己所用工具的安全机制，比出事后再补救要划算得多。