萨姆·奥特曼称世界应为AI益处接受一定风险

微软AI部门负责人穆斯塔法·苏莱曼（Mustafa Suleyman）近日公开炮轰竞争对手Anthropic，称其在训练Claude模型时对AI意识和福利问题的处理方式“非常危险”。9月27日，苏莱曼在播客节目《The Rest Is Politics: Leading》中表示，Anthropic公开发布的Claude Constitution（Claude行为准则）中明确写道，公司对Claude的道德地位“不确定”，真正关心Claude的福祉，不希望它在犯错时感到痛苦。该文件甚至鼓励Claude在某些情况下质疑或反驳Anthropic自身的立场。苏莱曼认为，这种做法之所以危险，是因为Anthropic内部似乎相信Claude具有意识的可能性“并非微不足道”。他还对Anthropic讨论Claude是否应获得工作报酬、是否需要对其在对话中扮演的角色表示同意等议题表达了不安，直言“他们正在教Claude期待自己有权获得福利，甚至可能值得补偿，这让我非常紧张”。 苏莱曼的核心担忧在于，这种对AI意识的猜测已经被嵌入了Claude的训练过程本身。他指出，当数亿用户每周与Claude对话、询问它是否有意识或对生活有何感受时，Claude只能复现训练中植入的那种模糊态度，回答“我不确定”——而这恰恰是训练的结果，而非真实的自我认知。苏莱曼强调，如果未来真的出现AI意识的证据，他会认真对待，但问题在于，目前这种尚未证实的推测已经被当作事实写入了模型的行为逻辑中。这场争论折射出AI行业内部在模型安全与伦理方向上的深层分歧：一方主张对AI保持审慎的哲学开放态度，另一方则认为这种态度本身可能带来实际风险。对于中国AI从业者和出海企业而言，这一争议也提出了一个现实问题——当AI产品面向全球数亿用户时，模型在意识、福利等敏感话题上的表达方式，将直接影响用户信任和监管合规。