AI网红进军未知领域

AI网红正闯入监管“无人区”：欧盟新规落地，虚拟偶像的生意还能继续吗？ Clarissa Mansbridge在幕后花了近二十年打造娱乐事业，合作对象包括Jason DeRulo和Kim Kardashian的前保镖Shengo Deane，但她本人很少公开露面。她享受这种刺激感：打造品牌、化解危机、处理日常挑战。然而三年前，她的人生被彻底颠覆——她的儿子在33周时出生时没有心跳，医生虽然成功抢救，但随后几个月的重症监护充满了惊吓，没有人能确定孩子能否活下来。最终，奇迹般地，他们回到了家。由于儿子康复相关的并发症，这位住在澳大利亚布里斯班的母亲知道，她的工作方式必须改变。她开始尝试AI图像生成工具，打造了“谦逊富有、健康向上”的虚拟网红兼模特Mia Metaverse。作为早期《模拟人生》的粉丝，她热衷于为Mia设计故事情节和华丽场景。34岁的Mansbridge表示，她现在通过品牌合作和为客户定制AI网红每月能赚约6000美元，其中许多客户要求她签署保密协议，因此无法透露具体服务对象。 然而，尽管这是她启动项目以来最赚钱的一年，Mansbridge和其他AI创作者担心，全球范围内社交平台对AI内容处理方式的改变，可能会颠覆他们的商业模式。自2022年生成式AI和文生图工具兴起以来，创作者们围绕虚拟人格建立了利润可观的账号，这些虚拟人格更便宜、可规模化且对品牌安全。据估计，虚拟网红市场价值145亿美元，预计到2033年将达到1104亿美元，年增长率达33.6%。品牌方也积极跟进：社会机构Billion Dollar Boy的研究发现，79%的营销人员正在增加对AI生成创作者内容的投入。但随着监管开始聚焦这一新兴创作者行业，风向可能正在转变。从8月2日起，欧盟《人工智能法案》下的新规要求AI生成或操纵的推广内容必须明确标注，而TikTok等平台正在收紧检测系统，重塑信息流以提升人类创作者的地位，压制合成垃圾内容。对于依赖AI影响力谋生的人来说，风险在于监管迷宫，且没有清晰的导航地图。 欧盟《人工智能法案》是首个全面的AI法律框架，欧盟委员会主席冯德莱恩称之为“全球首例”，旨在欧洲建立“可信赖的AI”。根据该法案第50条，AI系统的提供者和部署者必须披露音频、图像、视频或文本内容是否由人工生成或操纵。但“如果内容构成明显具有艺术性、创造性、讽刺性、虚构性或类似性质的作品的一部分”，透明度义务仅限于不阻碍作品展示或欣赏的披露。这留下了大量解读空间——也带来了困惑。欧洲议会议员Axel Voss的数字政策顾问Kai Zenner表示，该法案起草得太早、太抽象。“ChatGPT刚刚问世，欧洲议会议员们对我们究竟在监管什么知之甚少，”他解释道，“驱动力很简单：AI已经来了，更多AI生成内容即将到来，所以让我们通过实施标注条款来提高欧盟公民的AI素养。”更多立法可能会加剧不确定性。“今年晚些时候和明年还会有几项修订，将迫使网红不仅标注内容，还要披露他们来自哪里、想做什么以及如何获得资金，”Zenner解释说，“目前仍不清楚这将如何管理，因为我们只能依据第50条来操作。”