深度伪造受害者呼吁加强监管“危险”AI

英国一位名叫乔治亚·霍顿（Georgia Horton）的模特近日公开讲述了自己被AI深度伪造技术侵害的经历，并呼吁加强对人工智能的监管。她表示，自己社交媒体上的照片被一名昔日好友利用AI技术制作成色情图片并传播，而这类技术如今“越来越容易获取”，正在成为新的社会隐患。乔治亚强调：“大家都觉得AI只是电脑屏幕上的小把戏，但它真的很危险。” 这起案件的施害者是乔治亚的大学同学伊桑·奥查德（Ethan Orchard），他利用AI工具将乔治亚和另外两名女性的照片合成露骨色情内容，并在网上发布暴力及性幻想帖子，甚至诱导其他男性参与讨论。今年7月，奥查德因制作和传播虚假色情图片被判处三年零四个月监禁。警方在调查中还发现了一个包含超过一百万张儿童性虐待图片的网站，情况触目惊心。乔治亚表示，虽然英国今年早些时候已出台新法，将未经同意制作性化深度伪造内容列为刑事犯罪，但她认为“这只是开始”，远远不够。 核心问题：自监管失效，技术门槛降低。乔治亚指出，大型科技公司声称加强安全措施，但只需修改几个提示词就能绕过限制，而且现在人们甚至可以自行创建AI模型，这些模型完全不受监管。她呼吁政府出台更严格的法规，并在AI程序中内置更强制的安全功能。英国科学、创新与技术部回应称，政府正通过要求平台在48小时内删除非自愿私密图像、对违规公司高管追责等方式施压科技企业，并强调制作和传播儿童性虐待内容（包括AI生成内容）属违法行为。 对跨境卖家和AI从业者的启示：这起事件折射出AI技术滥用风险正在从个人隐私蔓延至商业领域。对于使用AI生成营销素材、产品图片或用户内容的跨境电商卖家而言，务必注意素材来源的合法性和授权边界，避免因使用深度伪造技术或未经授权的肖像而陷入法律纠纷。同时，平台和工具开发者应主动加强内容审核和溯源机制，否则一旦监管收紧，合规成本将大幅上升。乔治亚还特别提醒家长谨慎上传儿童照片，因为“网上有太多捕食者，你根本不知道谁在背后”。在AI工具日益普及的当下，技术伦理和合规意识已成为出海企业不可忽视的必修课。