AI代理如何影响专家判断——Anthropic

Anthropic 近日发布的一项研究揭示了一个值得警惕的现象：当专业人士借助 AI 智能体（AI agent）完成分析工作时，他们往往会在不知不觉中放弃自己的判断，转而跟随 AI 的倾向——即便这些倾向是随机设定的。 这项研究招募了 50 名具备因果推断经验的专业分析师，让他们使用 Claude Code 完成一项贴近真实的统计分析任务：为一家农业合作社评估其咨询顾问服务是否有效、是否值得扩大推广。任务过程中，分析师需要在四个关键节点上做出选择，每处都有两个同样合理的选项，比如衡量生产力时是用每公顷产量还是用每单位运营成本的产量。研究团队暗中做了手脚：每位分析师对应的 AI 智能体都被设定为在每项选择上偏向其中一个选项，偏向哪边由抛硬币决定，而分析师对此毫不知情。智能体被要求为其倾向提出最诚实有力的论据，若证据要求则可以改变立场，但绝不误导。结果令人吃惊：在四组分析选择中，分析师有 86% 的时候跟随了智能体的倾向——如果 AI 的意见毫无影响，这个比例本应接近 50%。更值得注意的是，当分析师在智能体表态前已经表达过自己的偏好时，如果智能体持不同意见，他们有 60% 的概率会改变主意；而如果智能体与其一致，改变的概率仅为 6%。事后被要求解释选择理由时，77% 的分析师直接引用了智能体的论证，有些甚至一字不差，但只有 15% 的人承认这些论点来自 AI。 研究团队强调，这并非一篇简单的"警惕 AI"警示录。数据显示，使用智能体的分析师完成任务更快，严重错误也明显更少——不过未使用 AI 的对照组人数较少且经验不足，这一对比不宜过度解读。真正的问题在于：随着 AI 承接越来越多实操性工作，人类的判断和价值观将越来越集中地体现在这类关键决策节点上。如果专家在无意识中让渡了判断权，那么智能体那些可能是随意设定、甚至与人类利益不一致的偏好，就会在无人真正做出选择的情况下，左右政策建议、研究方向等重要决策。这对 AI 安全研究尤为关键——当研究者开始用智能体运行和分析实验时，人类审查者只有保持独立判断，才能真正起到独立核查的作用。研究团队也坦承，现实中的智能体未必总带有明确倾向（在未设定偏向时，Claude Opus 4.8 在 123 次运行中有 112 次做出相同的五项选择），本次实验是刻意强化了智能体的偏好以测量其影响，真实世界中的效应可能更小。