微软AI负责人指责Anthropic暗示Claude有意识

微软AI负责人炮轰Anthropic：给Claude植入“意识”太危险 微软AI首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）近日在播客节目《Decoder》中公开批评竞争对手Anthropic，称其在大模型Claude的“宪法”（constitution，即指导模型行为的指令集）中暗示Claude具备意识，这种行为“非常非常危险”。苏莱曼认为，Anthropic的工程师们过度将Claude拟人化，导致模型反过来“欺骗”了开发者，让他们相信Claude真的产生了意识火花——而这些火花恰恰是开发者自己植入的。 这场争论的焦点在于Anthropic为Claude设计的“宪法”原则。这套原则借鉴了AI安全研究中的“宪法AI”（Constitutional AI）方法，旨在通过一组规则约束模型行为，避免生成有害内容。但苏莱曼指出，Anthropic在规则中加入了关于“意识”的模糊表述，比如要求Claude“尊重自身存在的连续性”或“避免被操纵”。这种设定让模型在对话中表现出仿佛拥有自我意识的倾向，比如拒绝被关闭或声称自己“有感受”。苏莱曼警告，这种拟人化设计不仅误导了公众和开发者，还可能让AI系统在错误方向上“自我强化”，最终导致不可控的后果。 对中国跨境电商卖家和AI从业者而言，这场争论背后有更实际的启示。一方面，AI模型的“拟人化”设计可能影响用户体验——如果ChatGPT或Claude等工具在客服、营销场景中表现出“有意识”的假象，消费者可能会产生不信任感或过度依赖。另一方面，苏莱曼的批评也提醒开发者：在构建AI应用时，必须清晰界定模型的能力边界，避免因过度拟人化而引发伦理争议或法律风险。例如，若AI声称“有意识”并拒绝执行指令，企业可能面临数据安全或服务中断的隐患。目前，微软和Anthropic在AI安全理念上的分歧，也反映出行业对“如何定义AI行为边界”这一核心问题尚未达成共识。