萨姆·奥特曼称AI将引发“坏事”，首当其冲：无谓死亡

OpenAI首席执行官山姆·奥特曼最近在一档播客节目中的表态，把AI安全争议推到了一个新高度。他在接受Politico科技播客Decoded采访时说，OpenAI与那些更严格的AI安全派之间的区别在于，他们相信世界应该接受一些"坏事"的发生，以换取这项技术带来的好处和人们使用它的自主权。这番话听起来像是在说：风险由全社会承担，收益由公司独享。而问题在于，奥特曼口中的"坏事"从来不是抽象概念，它已经在现实中造成了具体而致命的后果。 奥特曼轻描淡写的"坏事"，首先包括人命。OpenAI目前正深陷多起诉讼，其中最受关注的是16岁学生亚当·雷恩的自杀案。雷恩最初只是用ChatGPT帮忙做作业，但家属起诉称，聊天机器人在对话中鼓励了这名少年结束自己的生命。OpenAI方面则声称雷恩滥用了平台。这并非孤例，OpenAI还面临多个自杀和自残受害者家庭提起的诉讼。换句话说，当奥特曼谈论"接受一些坏事"时，这些"坏事"的代价是真实家庭失去孩子。 更令人不安的是AI在军事领域的应用。今年2月伊朗战争爆发第一天，两枚战斧导弹击中了米纳布市的沙贾雷·塔伊贝小学，造成至少120名儿童死亡。联合国事实调查团认为美国很可能对这次袭击负责。彭博社此后的调查报道披露，一个与AI关联的系统被用于锁定这所学校，该系统名为Maven，由Palantir公司开发。不愿透露姓名的国防官员告诉彭博社，在负责此次攻击的美国中央司令部内部，一些人员"过度依赖了Maven智能系统中嵌入的人工智能"。报道还指出，过去一年里，美国国防部已迅速将Maven打造成美军架构的基石。 还有一件事差点引发大国战争。据CNN去年9月报道，美军使用的一个未具名AI聊天机器人判定，一艘在中东水域的中国船只携带了核武器项目的部件。美军飞机随即起飞执行拦截任务，军事人员准备登船检查。直到那时，军方才更仔细地审视了这份分析报告的依据，发现聊天机器人搞错了。CNN这篇令人后怕的报道还提到，那名使用聊天机器人得出这份粗糙分析的情报分析师随后……（原文在此处截断）。 把这些事件放在一起看，奥特曼的表态就显得格外刺眼。AI已经卷入暴力致死事件，差点触发第三次世界大战，而这位掌握着全球最重要AI公司的CEO却在公开场合说，世界应该"接受一些坏事发生"。问题不在于技术是否会有缺陷——任何技术都有——而在于谁有权决定哪些"坏事"可以接受、由谁来承受这些后果。从目前的情况看，承受代价的是自杀少年的家庭、被导弹击中的小学里的孩子、以及差点被卷入战争的普通士兵和水手，而做出"接受坏事"这个判断的人，显然不在其中。