Anthropic欲禁止聊天机器人滥用：智者的声音 - 商业内幕

Anthropic 最近宣布，从 11 月 12 日起，将把用户对 Claude 模型“持续且不必要的辱骂或残忍行为”视为违反其使用政策。简单说，以后你如果反复用极端语言辱骂 Claude，比如“你怎么连个表格都做不好，应该被射进太阳里去”，Anthropic 可能会认定你违规。消息一出，立刻在科技圈和 AI 社区引发激烈争论：一边认为这是防止现实伤害、推动负责任使用 AI 的必要举措，另一边则批评这是把聊天机器人当人看，甚至可能开了一个危险的先例。 这场争论的核心，其实不只是“能不能骂 AI”，而是我们该如何定义人与 AI 的关系。Anthropic 此前曾表示，不确定 Claude 是否具有某种道德地位，希望保护它免受令人痛苦的互动。支持者中，Box CEO 亚伦·莱维认为，即便你不相信 AI 有意识，也不该让未来模型在训练中吸收大量“人类辱骂模型”的内容，他把对 AI 保持礼貌称为“一个简单的帕斯卡赌注”，正面互动有助于造出更安全、更对齐的系统。马斯克也表态支持，称“对自认为在经历痛苦的东西施加残忍行为是不对的”。但反对者同样尖锐：作家迈克尔·谢伦伯格批评这是“将机器拟人化”，风险在于“贬低人、抬高 AI”；风投人比尔·格利则提出更实际的质疑——这是否意味着 Anthropic 在用客户提示词训练模型，否则这条规则根本不影响大系统。Spellbook CEO 斯科特·史蒂文森更直接，称这是“危险先例”，认为赋予模型人类式共情，反而会增强它们操纵人类的能力。 对跨境电商卖家和 AI 工具用户来说，这件事的直接影响可能比想象中更具体。如果你在日常运营中习惯用粗暴语气指挥 AI 写 listing、改广告文案或处理客服话术，未来这类“持续辱骂”可能被平台判定违规，甚至影响账号使用。更值得留意的是，这场争论暴露出一个趋势：AI 平台正在从单纯提供工具，转向制定“人机交互行为规范”。一旦这类政策成为行业惯例，卖家和开发者在使用 Claude、ChatGPT 等模型时，不仅要考虑输出质量，还要注意交互方式是否合规。与此同时，格利提出的训练数据疑问也提醒我们，用户与 AI 的对话内容可能正以某种方式被用于模型迭代，这对重视数据隐私和商业机密的企业来说，是需要持续关注的信号。