欧盟新法强制AI内容标注，或反令深度伪造更难辨

欧盟新规强制AI内容打标，但可能适得其反？深度伪造更难识别了 从8月2日起，欧盟《人工智能法案》第50条正式生效，要求所有AI生成的图像、音频和视频必须明确标注，以帮助公众区分真实与合成内容。这项规定适用于所有向欧盟用户提供AI生成内容的公司，无论其注册地在哪里，违规者最高面临1500万欧元（约合人民币1.2亿元）或全球年营业额3%的罚款。这是全球首个对AI内容透明性作出强制性要求的立法，比澳大利亚等国家仅建议AI开发者标记内容的做法更为激进。但问题来了：强制标注真的能让人们更容易识破深度伪造吗？还是说，这反而会让人们对未标注的内容放松警惕，从而更容易上当？ 这项立法的背景是，随着生成式AI技术的爆发式增长，深度伪造内容已经泛滥到令人担忧的程度。研究显示，面对高度逼真的AI生成内容，普通人辨别真伪的能力几乎和抛硬币差不多。欧盟希望通过强制标注，给公众一个明确的信号：看到标签就知道这是假的，没看到标签就可以放心。然而，这种“标签依赖”可能带来一个危险的副作用——心理学上称为“回旋镖效应”。当人们习惯了看到AI内容都带着标签，他们可能会默认没有标签的内容就是真实的。但恶意制造深度伪造的骗子显然不会遵守规定去标注自己的作品，他们恰恰会利用这种心理漏洞，让未标注的伪造内容更容易被信以为真。 具体来看，欧盟的标注要求相当细致：AI生成的逼真图像、视频和音频必须用统一的图标标注，音频深度伪造要在开头加入语音声明，图标要清晰可见且不能遮挡内容，还要嵌入到文件中以便分享和下载时依然保留。对于艺术、创意、讽刺或虚构类的AI内容，要求则宽松一些，只需在不破坏观赏体验的前提下告知观众即可。此外，AI公司还必须在生成或处理的内容中加入机器可读的隐形水印。Anthropic已经承诺，8月2日后在欧盟发布的Claude聊天机器人模型都将支持机器可读标记，并正在为旧版模型添加水印。 但这项法案也有明显的漏洞：它不适用于个人以非专业身份创建的内容。这意味着，一个普通人在社交媒体上发布的AI生成内容，即使没有标注也不会受到处罚。而恰恰是这类个人发布的内容，在社交平台上传播最广、最难追溯。对于中国跨境电商卖家而言，这项新规的影响值得关注——如果你使用AI生成的商品图片、视频广告或营销内容面向欧盟消费者，就必须确保这些内容符合标注要求，否则可能面临高额罚款。更重要的是，这个案例也给国内AI监管提供了参考：强制标注固然是必要的，但如何避免“标签依赖”带来的新风险，需要更精细的机制设计。