Anthropic为AI内容加水印，民众恐慌将无处遁形

Anthropic近日宣布，其旗下聊天机器人Claude将为生成的文本添加水印，这一消息在AI用户群体中引发了强烈反弹。不少依赖AI完成作业、撰写邮件或编写代码的用户担心，这项技术将让他们“原形毕露”，再也无法神不知鬼不觉地使用AI产出内容。 在Reddit的r/ClaudeAI社区，有用户愤怒地表示：“这是我听过最愚蠢的功能，难道以后要提供身份证才能生成无水印的文本吗？”还有人担心这会毁掉内容变现的可能：“这个标记会像红字一样，让任何可出售的文本失去价值，没人愿意为带水印的内容付费。”更夸张的是，一位名为visionode的用户在r/artificial版块发帖，将水印机制比作“只抓吸毒者、放过毒贩的警方行动”，声称这会在创作者中制造“肮脏的种姓制度”。不过，这篇言辞激烈的帖子并未获得广泛支持，有网友反讽道：“你这篇歇斯底里的檄文是不是也用聊天机器人写的？” 这一举措的背景是欧盟2024年通过的《人工智能法案》，该法规要求AI公司对其系统生成或编辑的内容进行标记。Anthropic表示，水印技术通过在AI生成文本时对词汇选择进行细微调整来实现，这些变化对人类来说几乎不可察觉，但聚合起来会形成可被检测工具识别的模式。然而，这项技术并非无懈可击。据Ars Technica分析，水印虽然能“经受部分编辑”，但若文本被复制到其他聊天机器人中重写，信号可能被破坏；此外，为生成水印而做出的词汇选择也可能降低文本质量。更令人担忧的是，一旦Anthropic公开检测工具的工作原理，恶意行为者很容易开发出擦除水印的工具——Google DeepMind的图像水印系统SynthID已经遭遇了类似挑战，尽管目前尚未有人能完全移除其水印。