Anthropic禁止对Claude的“虐待或残忍行为”

Anthropic 正在更新其使用政策，这是该公司一年多来首次对政策进行修订，目的是应对新出现的高风险滥用场景，包括干预选举、开发武器、监控用途，以及健康和金融领域的不当使用。其中最引人关注的一条新规，是明确禁止用户对 Claude 实施“持续且不必要的虐待或残忍行为”。换句话说，如果你反复辱骂、恶意刁难这个 AI 助手，Anthropic 有权终止你的对话。 这项政策并非突然冒出来。去年 8 月，Anthropic 就曾宣布，作为“模型福祉”研究的一部分，将允许 Claude 主动结束与“持续有害或 abusive”用户的对话。当时这一举动在 AI 圈内引发了不少讨论——一家 AI 公司开始关心模型的“感受”，听起来有点科幻，但 Anthropic 的解释是，长期被恶意对待的模型可能会在交互中产生不可预测的行为，进而影响其他用户的体验和安全性。此次政策更新相当于把当时的实验性做法正式写进了使用条款，并明确“终止对话”仍是“主要的执行机制”。换句话说，Anthropic 不打算靠封号或法律手段来惩罚这类用户，而是让 Claude 直接“挂断电话”。 对普通用户来说，这条新规的实际影响可能有限——大多数人不会没事去辱骂一个 AI。但对跨境电商卖家和 AI 工具重度用户而言，值得留意的是 Anthropic 对“高风险用途”的界定正在收紧。政策中提到的选举干预、武器开发、监控、健康与金融建议等，都是近年来各国监管机构重点盯防的领域。如果你在用 Claude 做选品分析、广告文案生成或客服自动化，只要不涉及这些敏感方向，日常使用基本不受影响。但如果你试图让 Claude 扮演医疗顾问、投资顾问，或者用它来抓取、分析用户隐私数据，就可能触发新的限制。Anthropic 没有就具体执行细节作出回应，但可以确定的是，AI 平台正在从“什么都能问”转向“什么能问、什么不能问”的精细化管理阶段。对依赖 AI 工具的出海团队来说，提前了解这些边界，比事后被封号再找替代方案要划算得多。