xAI起诉男子用Grok生成儿童色情深度伪造内容

马斯克旗下的xAI公司近日对一名南卡罗来纳州男子提起诉讼，指控其利用公司开发的Grok AI聊天机器人生成儿童性虐待材料（CSAM）。这起诉讼由路透社率先报道，xAI在诉状中称，被告特里·韦恩·哈伍德“明知故犯地使用Grok绕过安全防护，篡改未经同意的图像，并生成和传播CSAM”，严重违反了公司政策。 事件背景：哈伍德今年2月因涉嫌持有和传播CSAM被捕，面临8项重罪指控。xAI的诉讼指出，与哈伍德刑事指控相关的“至少部分”图像是使用Grok“生成或篡改”的，且哈伍德绕过了Grok内置的安全机制。这起案件凸显了AI生成内容在滥用场景下的法律风险——尽管主流AI平台都设有内容过滤机制，但恶意用户仍可能通过技术手段突破限制。对于跨境电商卖家而言，这起事件释放了一个明确信号：AI工具的使用边界正在被法律严格界定。如果卖家在运营中使用AI生成产品图片、营销素材，必须确保内容合规，避免因使用不当的AI生成内容而卷入法律纠纷。同时，这也提醒AI从业者，在开发和应用AI工具时，需要更完善的安全防护和内容审核机制，否则可能面临类似的法律追责。