OpenAI将在欧盟为ChatGPT文本添加水印

OpenAI本周一宣布，将在欧盟范围内为ChatGPT和Codex生成的文本加入隐形水印，以符合欧盟人工智能法案的透明度要求。该法案的相关条款已于8月2日正式生效，要求AI企业必须以其他系统可识别的方式标注AI生成内容。OpenAI表示，水印将在未来几周内面向欧盟地区所有订阅方案的ChatGPT和Codex用户推出，但暂不覆盖欧盟以外市场。全球范围内的开发者从即日起可以通过API为部分模型开启该功能，不过默认处于关闭状态。OpenAI明确表示，短期内不会将文本水印设为全球默认选项。 这套水印并非肉眼可见的符号，而是通过微妙地调整模型的用词选择，在文本中嵌入一种读者无法察觉、但检测器可以识别的模式。由于水印存在于文字本身，复制粘贴后依然会保留。OpenAI强调，水印不会识别用户身份，且开启后模型性能没有出现明显变化。与此同时，OpenAI还发布了一份名为textGrain的技术报告，与宾夕法尼亚大学和耶鲁大学的研究人员合著，详细解释了如何用密钥对下一个词的预测进行排序，从而在数百次微调后让检测器仅凭文本和密钥就能判断内容是否由AI生成。 不过，水印并非无懈可击。OpenAI的测试显示，将10%的词汇替换为同义词后，检测率会从约92%降至66%。短文本、数学答案和翻译内容也更难被检测到。正因如此，OpenAI目前只向经过审核的研究人员和专家机构开放检测器权限，以便评估其可靠性和负责任的使用方式。公司同时提醒，没有水印并不等于内容由人类撰写——文本可能太短、被大量编辑，或者来自其他公司的AI。水印能说明OpenAI系统生成或处理了某段内容，但无法衡量其中包含多少人类判断、编辑或创意。 这一举措的背景值得注意。两个月前，Anthropic宣布将在全球范围内为Claude生成的文本加水印，结果引发部分用户不满，他们认为自己提供了指令、上下文和决策，Claude只是工具。据华尔街日报2024年报道，OpenAI此前也曾开发过文本水印，但担心用户会转向不加水印的竞争对手而搁置发布。目前，Anthropic、谷歌、Meta、微软和OpenAI等公司均已承诺遵守欧盟关于AI生成内容的实践准则。对于中国跨境电商卖家和AI从业者来说，这意味着面向欧盟市场的AI生成营销文案、产品描述等内容，未来可能需要关注平台侧的合规标注要求，而API用户则可提前测试水印功能对业务的实际影响。