旧金山要求苹果谷歌下架AI“脱衣”应用

旧金山市政府近日向苹果和谷歌发出正式信函，要求两家科技巨头从各自的应用商店中下架一批名为“Nudify”（脱衣）的AI应用。这类应用利用人工智能技术，能够将普通照片中的衣物“一键去除”，生成虚假的裸体图像，本质上是一种深度伪造工具。旧金山地方检察官办公室指出，这些应用不仅严重侵犯个人隐私，还可能被用于制作和传播未经同意的色情内容，尤其是针对女性和未成年人的恶意攻击。 这一事件的背景是，随着生成式AI技术的快速普及，类似“Nudify”的应用在过去一年间大量涌现。它们通常以“娱乐”“趣味换装”为幌子，实际上却提供了极其危险的图像篡改功能。旧金山检察官在信中强调，这些应用违反了加州关于深度伪造和色情内容的法律，也触犯了苹果和谷歌自身关于“禁止非自愿色情内容”的应用商店政策。如果两家公司不主动采取行动，检方将考虑通过法律手段强制下架。 对于跨境电商卖家和AI从业者来说，这一事件释放了明确的监管信号。一方面，AI技术在图像生成、视频合成等领域的应用边界正在被重新审视，任何涉及隐私侵犯或内容篡改的工具都可能面临法律风险。另一方面，苹果和谷歌作为应用分发的核心渠道，其审核机制将变得更加严格。卖家在开发或接入AI相关功能时，必须提前评估合规性，尤其是在涉及用户面部数据、图像处理等敏感领域。未来，类似“一键脱衣”的AI应用很可能在全球范围内遭遇更严厉的封堵，相关开发者和平台都将承担连带责任。