谷歌地球AI换脸工具仅存活一天
11 小时前 1 阅读来源:The Verge AI

AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
谷歌地球的AI“换脸”功能上线仅一天就被紧急叫停。这项于周四推出的新工具允许用户通过文字指令直接编辑卫星图像,本质上相当于用AI对真实世界进行“深度伪造”。例如,数字挖掘网站的亨克·范·埃斯就故意生成了美墨边境出现难民、加沙医院旁出现炸弹坑等虚假场景。谷歌最初回应称,使用Nano Banana 2生成的图像带有数字水印,且公司已阻止“有害主题的图像生成”。但仅一天后,谷歌便发布新声明,宣布关闭该功能。
这一快速反转背后,是AI图像编辑工具在真实地理信息上的滥用风险。对跨境电商卖家而言,卫星图像常用于选址、物流路线规划或展示仓储布局,若此类工具被恶意用于伪造仓库实景或供应链状态,可能误导商业决策。谷歌的紧急下架也反映出,即便有技术防护措施,AI生成内容在涉及现实地理和政治敏感区域时仍难以完全控制。目前,谷歌尚未透露是否会在加强审核后重新上线该功能,但这一事件提醒所有依赖AI图像工具的用户:技术便利与真实性验证之间的平衡,仍是行业待解的难题。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
