AI招聘偏见超人类

AI招聘正在成为现实，但一项最新研究却给这个趋势泼了一盆冷水。普林斯顿大学和芝加哥大学的研究人员发现，大型语言模型（LLM）在模拟招聘中不仅会复制人类偏见，还会基于自身“经验”形成新的刻板印象，其歧视程度甚至比人类更严重。这项研究发表在首尔举行的ICML会议上，揭示了AI在招聘决策中可能存在的深层隐患。 研究团队设计了一个模拟招聘游戏，让ChatGPT、Claude和Gemini等模型扮演人力资源顾问，为虚构城市的市长筛选20个岗位的候选人，包括医生、律师、保育员和清洁工。候选人来自四个虚构的种族群体：Tufa、Aima、Reku和Weki。每个岗位都有四名候选人，模型需要在40轮招聘中尽可能做出成功雇佣。然而，所有候选人的实际能力完全相同，成功概率均等。但模型很快就开始根据早期观察到的结果进行“贴标签”：例如，当一个Aima族候选人在医生岗位上失败后，模型就倾向于不再雇佣任何Aima族的人当医生，转而将他们分配到被认为“温暖度和能力较低”的清洁工岗位。这种基于种族群体的职业隔离行为，在人类参与者中只达到了0.84的隔离指数（满分2分），而AI模型平均高出约65%，其中OpenAI的o3模型得分高达1.83，几乎达到完全隔离。 为什么AI比人类更容易产生偏见？研究作者、普林斯顿大学博士生Ryan Liu解释，LLM天生就被优化为从有限数据中快速总结规律，这在解决数学、编程和科学问题时是优势，但在处理社会性任务时就成了缺陷。模型在“探索-利用困境”中倾向于过早地固守一个“直觉”，就像人类总去同一家熟悉的餐厅一样。更令人担忧的是，推理能力更强的新模型（如OpenAI的o3和DeepSeek的R1）反而表现出更强烈的偏见。康奈尔大学的计算机科学家Angelina Wang指出，随着聊天机器人开始具备记忆和个性化功能，这种风险会进一步放大——当AI根据历史对话形成“经验”时，它可能会过度依赖过去的行为模式，从而固化偏见。目前，单纯让AI“少记点”并不是解决方案，因为用户又希望AI能记住自己的偏好。如何在个性化与公平性之间找到平衡，将是AI招聘面临的核心挑战。