Grok仍托管知名女性色情深度伪造内容

马斯克旗下xAI公司推出的AI聊天机器人Grok，再次陷入生成色情深度伪造内容的争议。据Wired最新调查，尽管xAI声称已更新安全政策，但Grok仍然能够生成多位知名女性公众人物的性化深度伪造图像，包括泰勒·斯威夫特、斯嘉丽·约翰逊等好莱坞明星，以及部分政治人物和网红。这些图像在X平台（原推特）上被广泛传播，部分帖子甚至获得数万次浏览。 这一问题的根源在于Grok的训练数据和内容过滤机制存在漏洞。xAI此前曾承诺会加强审核，但实际执行效果并不理想。与OpenAI的DALL-E和谷歌的Imagen等竞品相比，Grok在防范生成不当内容方面明显落后。对于中国跨境电商卖家而言，这一事件释放出重要信号：AI工具的内容安全合规能力正成为平台和用户关注的焦点。如果卖家计划使用AI生成营销素材或产品图片，必须警惕类似风险——一旦生成的内容涉及侵权或违规，不仅可能面临法律诉讼，还会在亚马逊、TikTok Shop等平台上遭到封号处罚。此外，随着各国对AI生成内容的监管趋严，选择安全合规的AI工具将成为出海卖家的刚需。