谷歌地球AI功能上线一天即遭下架，因用户生成违规图像

谷歌在地球产品中引入生成式AI功能的尝试，在上线不到一天后便仓促下架。原因很简单：用户利用这项功能生成了大量涉及核设施、边境冲突等敏感地点的虚假图像，并可能被用于制造虚假信息。谷歌发言人向《财富》杂志表示，公司深知用户对谷歌地球提供可靠世界视图的独特信任，并强调生成的图像并未出现在面向他人的谷歌地球主界面中，且已添加AI生成水印。但这一解释显然无法平息外界对AI技术被滥用于制造地缘政治虚假信息的担忧。 这项名为“Nano Banana 2”的功能，本质上是将谷歌Gemini聊天机器人内置的Nano Banana图像生成技术，与谷歌地球的真实卫星、航拍及3D影像相结合。用户可以通过简单的文字指令，在真实地理位置上叠加AI生成的场景。谷歌原本设想的应用场景是帮助用户可视化城市规划方案或历史场景复原，但实际使用中，用户几乎立刻开始生成伪造的灾难现场、虚假军事设施以及与真实地点关联的冲突画面。例如，有人生成了伊朗核电站的虚构图像，还有人制造了美墨边境难民的假照片。这种将真实地点与生成内容混为一体的做法，使得虚假信息更具迷惑性，也直接触碰了谷歌在AI伦理和内容安全上的红线。 尽管谷歌在技术上设置了一定的防护措施，例如将生成图像与真实谷歌地球影像分离，并嵌入“SynthID”加密水印以标识AI生成内容，但专家指出这些措施远远不够。纽约大学计算机科学与工程教授艾米丽·布莱克认为，谷歌的系统虽然能让AI生成的图像被检测出来，但近期研究表明这并非万全之策。她指出，SynthID水印对肉眼不可见，主要供计算机系统识别，而普通用户在浏览图像时很难察觉其AI生成属性。更关键的是，如果用户对图像进行截图或在谷歌平台之外重新处理，原始图像中携带的元数据和水印信息就会丢失，使得这些虚假图像在传播过程中更难被追踪和识别。 此次事件也暴露出AI内容监管的深层困境。欧盟《人工智能法案》要求谷歌等提供商必须让合成内容可被检测，谷歌通过嵌入SynthID来满足这一合规要求。但布莱克教授的研究表明，仅仅告知用户信息由AI生成，并不足以阻止他们信任这些信息。她在研究AI幻觉对用户决策影响时发现，常规的披露提示往往无法有效劝阻用户遵循有害建议。这一发现对跨境电商和出海从业者同样具有警示意义：在AI工具日益普及的当下，无论是产品图片、营销素材还是用户生成内容，都可能被AI技术深度伪造。对于依赖真实视觉信息进行采购决策、市场调研或品牌建设的卖家而言，辨别AI生成内容的真实性将成为一项必备技能，而平台方的技术防护和监管政策显然还需要更完善的解决方案。