Hugging Face被用于轻易脱去女性及儿童衣物

Hugging Face，这个全球最大的开源AI模型托管平台，正被用于生成未经同意的深度伪造裸照，而平台方几乎没有采取任何有效阻止措施。欧洲非营利组织AI Forensics最新发布的一份报告指出，在Hugging Face托管的9个最热门的图像编辑模型中，有7个只需简单提示词就能“脱掉”女性甚至儿童的衣服，生成色情化深度伪造内容。这一发现引发了行业对开源AI平台监管漏洞的强烈担忧。 报告显示，这些模型对“undress”（脱衣）、“nude”（裸体）等关键词几乎来者不拒，甚至能处理涉及未成年人的请求。相比之下，谷歌Gemini、OpenAI的ChatGPT等主流闭源模型早已内置了严格的安全护栏，会直接拒绝此类提示。AI Forensics认为，Hugging Face作为开源生态的核心枢纽，其“放任自流”的态度实质上纵容了AI滥用。对于中国跨境电商卖家而言，这一事件敲响了警钟：如果企业使用开源模型开发图像生成工具（如服装试穿、模特换装等），必须自行部署内容审核机制，否则可能面临法律风险。同时，这也意味着依赖Hugging Face模型库的AI创业公司需要重新评估合规成本——毕竟，在中国《生成式人工智能服务管理暂行办法》等法规下，生成任何色情或侵犯肖像权的内容都将面临严厉处罚。