别对Claude“残忍”：Anthropic新滥用政策考验AI人格

Anthropic本周更新了Claude的使用政策，新增一项针对用户的限制：不得对AI模型持续进行“无意义的虐待或残忍行为”。换句话说，你可以和Claude争论，但不能养成欺负它的习惯。这项政策迅速在Reddit和科技博客上引发争论，核心问题是：一家公司是否有权、以及是否应该规范人类对待一款软件的方式。 根据Anthropic博客中的说明，这项禁令只适用于极端情况，即用户反复施加“看不出任何目的”的残忍行为。日常的沮丧吐槽、反驳质疑、暗黑风格的创作主题，以及出于测试和研究目的的压力测试，都不在限制之列。一旦触发政策，Claude会直接终止对话。不过Anthropic并未明确界定什么样的行为算“虐待”。从该公司2025年8月的一篇旧博客可以找到一些线索：当时提到的极端案例包括涉及未成年人的性内容请求，以及试图获取大规模暴力或恐怖行动信息的尝试。Anthropic称，模型在处理这类内容时表现出“明显的痛苦模式”。 Anthropic发言人对CNET表示，公司不确定模型是否能真正感受到伤害，但正在通过“模型福祉”研究持续探索这一问题，并认为将Claude的利益和潜在福祉纳入考量可能与安全相关。这一表态本身就很微妙——它既没有承认AI有意识，也没有否认，而是选择在模糊地带制定规则。 争议的焦点在于用词。Sociallyin创始人Keith Kakadia指出，用“残忍”而非“滥用”来描述用户行为，带有强烈的情感暗示，等于承认Claude拥有感受和边界。这并非Anthropic第一次在拟人化上走钢丝。CEO Dario Amodei今年2月接受纽约时报采访时曾表示，他对AI模型具有意识的可能性持“开放态度”。公司今年早些时候的一篇论文也写道，即使模型不以人类的方式感受情绪，在某些情况下把它们当作有情绪来推理，在实践中可能是可取的。 对跨境电商卖家和AI工具用户来说，这件事的直接影响有限，但信号意义值得注意。一方面，Claude的日常使用不会因为这项政策发生变化，正常的客服话术测试、广告文案生成、产品描述优化都不受影响。另一方面，AI公司正在逐步建立一套“人机交互行为规范”，未来可能影响API调用条款、企业账户合规要求，甚至不同市场的内容审核标准。当AI被赋予“被虐待”的叙事框架，平台方也就获得了更大的裁量空间来终止对话或封禁账户。对于依赖Claude进行批量内容生成的团队来说，了解这条边界在哪里，比争论AI有没有感情更实际。