AI偏见不仅是算法错误，更是人类决策链的失误

美国人力资源软件巨头Workday正因AI招聘工具涉嫌歧视而吃上官司，原告指控其算法在筛选简历时，基于年龄、残疾和种族等因素对应聘者区别对待。这家公司的招聘软件被全球众多大型企业广泛采用，目前它否认了所有指控。这起案件只是AI系统被指造成歧视性伤害的众多案例之一。当AI系统复制并放大歧视时，它模糊了技术错误与系统性不公之间的界限，把偏见变成了一种数字伤害。虽然我们的第一反应可能是归咎于算法，但算法本身并不能决定自己能生成什么、内置了哪些安全防护，或者公司在收到歧视报告后如何回应。在AI产生任何输出之前，是人在做这些决定。这就是为什么单纯对AI系统进行技术修补远远不够，真正需要的是对整个AI生态系统进行彻底改革，以确保其更具包容性。 一个更广泛的模式是，AI系统在悄无声息地收窄谁被视为有能力、可就业或适合担任领导者的范围。例如，在2025年的一项研究中，我们测试了OpenAI的GPT-4（现已退役）和微软Copilot两个AI模型在模拟招聘中如何呈现软件工程师：为四个职位生成了300份候选人档案，随后给出推荐和每个AI模型偏好人选的生成图像。两个模型都偏向男性档案，尤其是高级职位。它们的图像也倾向于更年轻、更瘦、肤色更浅的工程师。这些模型在复制语言、图像、就业记录中嵌入的关联，以及关于谁属于这个职业的假设。这些输出并不局限于研究层面，AI生成的推荐正在进入招聘、教育和公共服务领域。当某些人口群体和女性在AI开发和领导层中仍然代表性不足，却不成比例地暴露在其危害之下时，这个问题就变得尤为严重。 问题不仅限于性别和种族。即使AI系统在不同语言和文化中运行，它们也常常复制占主导地位的西方价值观、假设和理解世界的方式。富裕国家已成为AI的主要受益者，这加剧了全球不平等。在另一项2025年的研究中，我们手动审查了报告的AI事件，近一半涉及多样性或包容性问题，其中种族、性别和年龄歧视最为突出。这些伤害追溯到AI开发生命周期的不同环节：训练数据缺乏多样性，在设计、开发和部署阶段忽视了多样性和包容性原则。 为什么技术修补不够？技术工作很重要，包括识别偏见、重新平衡数据集和调整输出。但这些修补往往把偏见视为AI模型本身的属性，而实际上大部分偏见源于系统外部。数据并非作为对现实的中立记录进入AI系统。人们决定收集什么数据、如何标注和分类，以及谁的经历是重要的。这些决定受到历史、文化规范、制度和现有权力不平衡的影响。无论社会在哪里将领导力与男性、技术技能与浅肤色、创新与年轻联系起来，AI模型都会从这些关联中学习，并将其形式化、自动化，并在更大规模上重复。偏见通常还通过多重身份的交集出现，如性别、种族、年龄、残疾和阶级。一个在单独测试每个身份时看似公平的系统，仍可能在多个身份重叠时使某些人处于不利地位。 构建更具包容性的AI生态系统，需要跨学科知识，比如教育AI工程师了解社会科学理论，帮助他们理解偏见的社会根源。包容性AI不是政治正确的问题，而是关乎公平、效率和长期可持续性的问题。如果AI系统继续复制现有的偏见，它们不仅会伤害被排斥的群体，还会削弱整个社会的信任，并限制AI技术本身的潜力。要真正解决这个问题，需要从数据收集、模型设计到部署和监管的每一个环节，都纳入多元化的声音和视角，确保AI的发展不会以牺牲公平为代价。