Anthropic禁止对其AI模型使用辱骂性语言，教皇利奥发出智能警告

Anthropic 近日更新了其 AI 模型的使用政策，明确禁止用户对其 Claude 系列模型使用辱骂性语言。这一举措在 AI 行业引发关注，因为它触及了一个此前很少被正式讨论的问题：人类应该以什么样的态度对待 AI 系统。与此同时，教皇利奥就人工智能带来的风险发出警告，让这场关于 AI 伦理的讨论进一步升温。 Anthropic 的做法并非孤立事件。随着 AI 助手在日常工作和生活中的渗透率越来越高，用户与 AI 之间的互动方式正在成为行业议题。此前已有多起用户对 AI 聊天机器人进行言语攻击的案例，部分用户甚至以“调教”AI 为乐。Anthropic 此次将辱骂性语言写入禁止条款，实际上是在为 AI 交互划定一条行为边界。从商业角度看，这也与其一贯强调的“负责任 AI”定位一致。对于中国出海企业和 AI 工具用户而言，这一政策变化值得留意：如果产品集成了 Claude 的 API（应用程序接口），终端用户的行为可能会受到平台条款的约束，进而影响产品设计和用户协议。