Anthropic详解Claude新水印机制

Anthropic周五发布了一篇博客文章，试图解答关于其聊天机器人Claude生成的文本将如何添加水印的一些基本问题，包括水印技术如何运作、能否通过编辑隐藏，以及这对代码有何影响。自本周早些时候该公司透露将实施水印以符合欧盟《人工智能法案》透明度规范以来，Claude用户一直在争论此举。该法案要求AI公司使用能够识别AI生成内容的系统。例如，在Reddit上，一位用户将此描述为针对无辜Claude用户的阴谋，而另一位用户则声称“你不想这样做的唯一原因就是想对别人撒谎”。据Business Insider报道，X平台上已有“数十名”用户声称因此取消了Claude订阅。 Anthropic的新文章首先概述了水印概念，解释说在做出“低风险选择”时——比如选择用“阴天”还是“灰色”来描述天气——Claude可以在其回复中创建一个模式，这种模式“对读者来说无法察觉，但任何拥有编码密钥的人都可以检测到”。该公司表示：“水印不会影响Claude输出的质量。对读者来说，带水印的回复与未带水印的回复无法区分。”更具体地说，Anthropic表示将采用Google DeepMind团队在2024年提出的SynthID-Text方法，并计划发布水印检测API。该公司还指出，水印与Pangram等公司提供的AI检测方法不同，后者通过寻找写作中的“痕迹”（如“这不是[X]，而是[Y]”的句式结构）来揭示AI使用情况：“捕捉这些模式与检查水印有本质区别。” 关于能否通过重写文本隐藏水印，Anthropic表示这是可能的，但“轻度编辑可能无法完全去除水印”，而“完全重写、替换每个单词则可以去除”。该公司称：“在后一种情况下，当然，文本是否还能被称为AI生成的是有争议的。”至于Claude仅校对或编辑过的文本是否能检测出水印，Anthropic表示这取决于“文本长度以及Claude编辑的力度”。如果只是轻度编辑，“几乎所有单词”都由人类作者撰写，“水印几乎没有（如果有的话）可以附着的内容”。与此同时，代码的水印应比其他文本少，因为模型需要生成可运行的代码，无法在多种同样有效的选项之间自由选择。Anthropic表示：“话虽如此，在代码中任意选择特定单词或术语的领域，水印可以使用，例如代码中的注释。但根据定义，它对实际生成的代码影响微乎其微。”Anthropic还表示，Claude不会是唯一生成水印文本的AI聊天机器人，因为“其他主要模型开发商已签署相同的实践规范，并将实施自己的水印”。