Anthropic推出修复方案，杜绝AI生成文字难以察觉的问题

Anthropic 本周一宣布，其新一代 Claude 模型将直接在 AI 生成的文本中嵌入“不可见水印”。这项技术不会改变文本的含义或可读性，但会在文本被复制粘贴时如影随形，并且“可能在某些编辑操作后依然留存”。所谓水印，是一种嵌入图片或数字文档中的微弱图案或文本，用于证明所有权并防止抄袭或盗用。Anthropic 表示，此举是其履行欧盟《人工智能法案》透明度承诺的一部分。自 8 月 2 日之后发布的 Claude 模型将默认支持该标记功能，公司也正在为旧版模型添加这一能力。该标记适用于全球范围内由 Claude 生成的内容，包括通过云服务商接入 Claude 的场景。Anthropic 还计划向第三方提供检测工具。 这项水印技术可能成为出版行业应对 AI 生成内容泛滥的一个转折点。就在上个月，一本热门犯罪小说《Call Me, I'll Hide the Body》因作者被质疑使用 AI 写作，代理商在收到 14 家出版社竞价并达成协议后，最终撤回了支持。作者 Jerry Falade 否认使用 AI 写书。更早之前，Hachette 出版社在接到 AI 代笔指控后，下架了 Mia Ballard 的恐怖小说《Shy Girl》。Ballard 向《纽约时报》表示自己并未使用 AI，而是自由编辑在未经她知情的情况下引入了 AI 生成的内容。Claude 的新水印功能将为出版商、学校和大学提供新的调查手段，让冒用 AI 写作变得更难。不过，漏洞依然存在——Anthropic 承认，重度编辑、改写、翻译或将 Claude 输出与其他写作混合，都可能让水印失效。此外，检测到水印并不能证明文本最初由 Claude 创作，因为即使用 Claude 进行校对或翻译也会留下痕迹。Anthropic 是继谷歌 DeepMind 之后第二家推出文本水印的大型 AI 实验室。2024 年，谷歌 DeepMind 宣布在 Gemini 应用和网页端生成的文本和视频中嵌入 SynthID 技术水印，此前该技术的图片版本已于 2023 年发布。