谷歌撤回新地球AI工具，因虚假信息风险警告

谷歌紧急叫停“地球AI”新功能：假图泛滥，连埃菲尔铁塔都塌了 谷歌刚刚上线不到48小时的一项新AI功能，因被曝出可轻易生成虚假场景图像、存在严重误导风险，于本周五被紧急暂停。这项功能原本集成在谷歌地球（Google Earth）中，允许用户通过文字指令，在真实的卫星、航拍或3D地图底图上叠加生成虚构画面，例如“埃菲尔铁塔倒塌”“金字塔被天坑吞没”或“俄军坦克出现在基辅街头”。BBC Verify在测试中成功生成了这些图像，并指出该工具可能被滥用，借谷歌的品牌信誉传播不实信息。 此次事件源于谷歌将旗下AI图像生成器“Nano Banana 2”整合进谷歌地球的尝试。谷歌在声明中承认，已看到“用户分享的生成图像截图似乎违反我们的政策”，因此决定暂停该功能，以“加强防护措施”。专家警告称，这类工具的最大风险在于，它能让伪造内容“嫁接”在真实坐标和地图上，从而继承地图本身的可信度。AI与虚假信息专家Henk van Ess指出，伪造图像本身无需看起来完美，因为它“诞生于真实地图之上，天然带有可信光环”。他举例称，自己曾用该功能生成伊朗境内根本不存在的核电站、美墨边境的虚假难民营，以及加沙地带一处被炸弹炸出大坑的假医院。 尽管谷歌表示，其AI生成内容均带有隐形水印，用户可通过Gemini聊天机器人或Lens功能验证真伪，但BBC Verify的测试发现，这些验证手段并非万无一失——通过巧妙修改提示词，可以绕过内容审核，甚至诱导Gemini误判伪造图像为真实。此外，部分外部AI检测工具也无法识别这些由谷歌地球生成的AI内容。AI检测研究员Henry Ajder强调，在冲突地区或信息稀缺的快速变化场景中，这类假图可能造成“破坏性”影响，因为记者和前线工作者依赖可信图像源，而AI的介入正在侵蚀这种信任基础。 对于中国跨境电商卖家和出海从业者而言，这一事件也敲响警钟：AI生成内容虽能提升效率，但在地图、实景等“可信度敏感”场景中，滥用可能引发法律与品牌风险。谷歌此次快速“打脸”也表明，即便是头部科技公司，在AI功能与真实世界数据结合时，仍需谨慎权衡创新与责任。