AI造成伤害时，谁该负责？| 斯坦福HAI

AI造成伤害谁来负责？斯坦福专家指出：执行环节才是政策最难啃的骨头 当AI系统造成伤害时，责任该由谁承担，又该如何证明？这是AI政策领域最难解决的未解难题之一。斯坦福以人为本人工智能研究院（Stanford HAI）近日迎来研究员Deb Raji，她专注于这个看似简单却极难回答的问题。Raji将于今年秋季加入斯坦福HAI担任访问研究员，并于2027年秋季正式出任中心研究员及计算机科学助理教授。此前她刚完成在高等研究院的 fellowship 以及加州大学伯克利分校的计算机科学博士学业。她与学者Joy Buolamwini及算法正义联盟合作开展的人脸识别偏见研究，曾推动IBM和亚马逊停止向警方出售该技术。在谷歌任职期间，她参与创建了Model Cards（模型卡片），如今已成为披露AI模型能力与局限的广泛使用标准。她的工作获得过《时代》周刊、麻省理工科技评论和电子前沿基金会的认可。 Raji当前的研究重心是AI问责基础设施。她指出，业界过去大量精力花在如何制定新的AI政策和立法上，如今取得了一些进展，但执行成了最大的瓶颈——如何真正让企业改变行为？如何建立政府执行法律条文的能力？这些问题的答案很大程度上依赖技术基础设施。比如，如果法案要求透明度，那么文档模板究竟长什么样？如果要监控事故，数据库该如何设计——什么算有效事故，政府和公司又该做出怎样的响应？Raji认为，AI审计已经讨论了五年，大多停留在高层和推测层面，现在终于到了有足够意愿去解决实际问题的阶段：需要什么工具、什么政策、什么机构。她对能亲身参与这一进程感到兴奋。 Raji特别关注AI在政府中的应用。她正与各国AI安全研究所、公民社会团体以及希望负责任使用这些系统的政府机构对话。这些机构在考虑采购、保障措施、争议解决等问责机制，但担心现有的基准测试实践和现成护栏达不到政府标准。公共机构有IT法规、无障碍要求、隐私规则和性能预期，部署环境比普通企业严格得多。她正在研读赫伯特·西蒙关于行政和组织行为的著作，试图理解这些方法论工具在受监管的公共利益场景中如何帮助理解AI部署。政府只是其中之一，教育和医疗同样重要。 为什么这些场景对Raji如此关键？因为人们无法选择退出。当讨论AI风险时，尤其是对年轻人，常见的回应是“关掉就行”——就像当年说“别用Facebook”一样。但在这些组织场景中，用户是政府工作人员，受影响的是公众。我们没有选择权。很多时候我们甚至不知道AI影响了某个结果，而这个结果会波及我们的生活。如果没有政策强制通知，我们根本无从质疑或提交事故报告。Raji认为，大多数人没有意识到，这才是大多数人接触AI的主要方式——不是主动选择，而是被动承受。