Meta被令删除英国深度伪造内容，监管委员会批评防护措施不足

Meta的独立监督委员会（Oversight Board）本周作出裁定，要求这家社交巨头删除Facebook上两段AI生成的深度伪造视频，分别涉及一名英国工党地方议员和一名年轻的穆斯林女性活动人士。委员会同时批评Meta在应对AI假视频方面的防护措施“从根本上持续不足”，并提出了九项政策修改建议。 两起案件的具体情况是这样的：第一段视频伪造了苏格兰一名工党议员的发言，让他说出“难民欢迎来这里，哪怕他们强奸我们的女性，因为白人也会这么干”这类煽动性言论。委员会指出，视频音频与人物面部动作明显不同步，属于AI生成内容，但Meta在委员会直接交涉后仍认定其不违反平台政策，也未打上AI标签。第二段视频则针对一名参与经期健康教育公益活动的穆斯林女性志愿者，伪造她做出荒诞动作、吃垃圾食品并给出虚假健康建议的画面，相关AI篡改内容在Meta等平台上累计获得数千万次播放。委员会认为，这两段视频分别违反了Meta关于仇恨行为和欺凌骚扰的政策，本应被删除并标注“高风险AI”标签。 委员会联合主席帕梅拉·圣马丁指出，从政客到普通公民，AI深度伪造正越来越多地被用来骚扰女性、让她们噤声，而这些案件反映出一个更广泛的令人不安的模式：公开发声的女性不成比例地成为骚扰和虚假信息的靶子。委员会在博客文章中表示，Meta需要更健全的深度伪造政策，包括扩大“高风险”标签的适用范围、采取更多措施减少欺骗性AI内容的传播、加大对反复分享此类内容账号的处罚力度，以及提高AI标签适用数据的透明度。九项建议中还包括：算法应降低被标记为“高风险”内容的推荐权重，使其更难出现在用户信息流中；引入警告屏幕，用户必须点击确认后才能查看AI生成内容。 这一裁定对跨境电商卖家和AI从业者同样有参考价值。一方面，Meta被要求收紧AI内容治理，意味着平台对AI生成素材的审核将更严格，卖家在广告素材、商品视频中使用AI生成或AI辅助内容时，需要更加注意合规风险，避免被误判或降权。另一方面，监督委员会的裁决具有约束力，Meta必须在规定期限内回应并执行，这标志着大型平台在AI内容治理上正从“自愿自律”走向“外部强制”，未来AI工具开发者、内容创作者和投放团队都需要把平台AI标注和风险分级规则纳入日常运营流程。