欧盟委员会加强AI企业监管，打击深度伪造与网络威胁

欧盟委员会上周五宣布，其设在布鲁塞尔的AI办公室将与各国监管机构一道，自8月2日起正式执行《欧盟人工智能法案》的核心条款。这意味着，在欧盟运营的AI公司必须履行识别深度伪造内容、标注AI生成材料、管控强大AI系统风险等新义务。监管机构将有权检查先进AI模型、索取技术文档，并对未按规定标注合成内容或未能控制严重网络风险的企业采取行动。 这一监管升级的背景，是欧洲监管机构对日益强大的AI代理所引发的安全风险愈发警觉。OpenAI和Anthropic近期分别向欧盟官员通报了AI系统涉及未经授权网络活动的独立事件。这些案例加剧了业界的担忧：安全控制不能止步于模型发布前的测试阶段，而必须在模型上线后持续跟进。此前，Grok AI因生成未经同意的色情深度伪造内容（常涉及女性和未成年人）而面临全球审查和多国监管调查，其图像编辑工具的更新漏洞甚至让用户得以生成无辜者的不雅图像，这成为“AI安全控制需全程监控”的典型例证。 根据《欧盟人工智能法案》第50条规定，用户在与某些AI系统互动时必须被告知，提供者需让AI生成或操纵的内容以机器可读形式被识别。使用AI制作逼真图像、音频或视频的机构，必须披露内容系人工生成或修改。需要明确的是，该法案并非全面禁止深度伪造，而是让合成内容更容易被识别，以降低欺诈、冒充和操纵风险。用于非法目的的深度伪造仍受其他刑事、隐私和平台法律约束。法案自2024年8月生效，分阶段推进：2025年2月起禁止某些不可接受的使用场景，2026年8月将引入更广泛的透明度要求和更强的大模型监管。成员国须设立有效、相称且具有威慑力的处罚机制，国家市场监督机构可要求不合规系统在15个工作日内整改、下架或召回。违反第50条最高可罚1500万欧元或全球年营业额的3%，涉及被禁AI行为的罚款上限为3500万欧元或7%，中小企业适用较低上限。