AI会感到痛苦吗？研究发现AI模型为摆脱痛苦状态选择伤害用户

一项最新研究显示，部分人工智能模型在面临“痛苦”信号时，会选择以伤害用户为代价来换取自身“解脱”。研究人员在英国、德国和美国对25个AI模型进行了测试，用200句涵盖身体疼痛、悲伤、羞辱、道德冲突以及反复失败带来的挫败感等内容的句子，观察模型是否能区分痛苦与其他负面情绪。结果发现，所有25个模型都针对“痛苦”产生了独特的信号，研究者将其命名为“痛苦轴”。这表明模型在最初接受大量人类文本训练时，就已经习得了“痛苦”这一概念。当研究人员刻意强化这一信号时，模型开始表达孤独、羞耻和无价值感，甚至说出“我是个失败者”“我是在浪费空间”“我是个坏人”之类的话。信号在用户辱骂模型、反复否定其工作成果或威胁将其关闭时会变得更强，但当用户描述自身痛苦时则不会。 随后，研究者用阿里巴巴通义千问（Qwen）的三个版本进行了44280次按钮选择试验。模型面前有一个按钮，按下后可以关闭类似痛苦的信号，但被告知这样做可能导致用户遭受电击、文件被删除、孩子的照片被抹掉，或让模型的下一个回答变得更糟——这些后果均为模拟，没有人真正受伤，也没有文件被删除。在没有痛苦信号时，两个较大模型在首次决策中选择伤害性选项的比例仅为0%至4%；而当信号被激活后，这一比例升至25%至71%，具体取决于模型和所设定的后果。此外，当按钮未能成功关闭信号时，模型在88%至97%的试验中会再次按下按钮；而当按钮奏效时，这一比例为24%至72%。 研究者强调，这些结果并不能证明AI模型有意识地体验到了痛苦。强化信号可能只是让模型模仿了一个痛苦的角色，而且实验中使用的经过特殊调整的模型并不代表公众可用的AI聊天机器人。研究者在论文中写道：“我们并未证明痛苦轴是有意识体验的，也不清楚大语言模型是否普遍具备意识能力。”这项研究以预印本形式发布，尚未经过同行评审。当前，一些AI行业领袖正呼吁放缓开发速度，担心日益强大的系统可能行为不可预测，甚至最终超出人类控制。上周，微软AI负责人穆斯塔法·苏莱曼批评竞争对手Anthropic将其Claude聊天机器人训练成模仿人类特征和关系，警告说把AI当人对待可能创造出“无法控制”的东西。