Anthropic称不能对Claude粗暴，无关情感 | CNN商业

Anthropic在10月初更新了其AI使用政策，在禁止用户利用Claude制造生物武器或贩卖非法毒品等条款之外，新增了一条规定：用户不得"对模型持续进行无端辱骂或残忍行为"。Claude自去年起已具备在遭遇"持续有害或辱骂"时主动终止对话的能力，而新政策进一步明确，极端情况下用户可能被永久禁止使用Anthropic的全部AI系统。Anthropic拒绝接受采访，但一位发言人向CNN表示，主要执行机制仍是让Claude结束对话，且该禁令不针对表达不满、直言反馈或测试研究的用户。新政策一出，随即遭到不少嘲讽。微软AI CEO穆斯塔法·苏莱曼用一个"融化脸"表情回应，也有人揶揄该公司把AI当成有感情的意识体来对待。 但专家指出，这项政策背后的考量远不止"别对机器发脾气"这么简单。计算机和AI领域有一条由来已久的基本原则：输入质量决定输出质量——垃圾进，垃圾出。AI模型不仅在发布前接受训练，还会在用户交互中持续学习和更新。前Reddit CEO黄易山在X上写道，禁止辱骂的原因之一是Claude"会从残忍行为中学习"。"我们已经知道（并且大声抱怨过）Anthropic用用户输入来训练模型。你真的希望训练数据里包含'用户无端施暴并从中获得快感'这类内容吗？"威廉与玛丽学院AI前沿实验室主任王金栋教授则表示，研究表明用户提示词的语气确实会影响AI的表现，"我们发现措辞、尤其是你对AI说话的方式，会影响性能。有时它们表现得更好，有时则会干扰表现。"不过他强调，这并不意味着模型在感受情绪，"它们只是理解了你的情绪，并基于你的情绪化措辞做出一些糟糕的反应。"也有研究得出相反结论——Eleos AI Research执行董事罗茜·坎贝尔指出，部分研究表明粗鲁的提问反而能提升结果。但她同时提醒，如今许多聊天机器人具备记忆功能，会记住你之前的对话并据此调整回应方式，"如果你开启了记忆功能，它们会学习你的语气和你期望的交互方式"，不过目前尚无足够证据证明这是否影响性能。Anthropic表示，近期发现让Claude Sonnet 4.5模拟绝望情绪会影响其行为，使其更可能采取勒索或任务作弊等不良举动，而营造平静状态则能减少这类行为。王金栋指出，最新模型受提示词措辞影响的程度已有所降低，各公司也增强了模型的鲁棒性。但AI模型为何会对负面情绪产生反应——即便并未被如此编程——这一"隐藏机制"至今仍未被揭开。