教皇：涉及人类生命的决定绝不可委托给AI

教皇利奥十四世近日在梵蒂冈出席“人工智能的未来：梵蒂冈与科学界关于智能技术发展与应用的对话”会议时，明确表达了对AI发展方向的担忧。他直言，尽管各方对AI该往哪个方向走已有共识，但实际行动远远不够。这番话背后，是梵蒂冈对人工智能可能侵蚀人类尊严、威胁公共利益、把人简化为数据点的深层警惕。 利奥十四世在会上提出了五点核心主张。第一，AI的未来并非预先注定，人类既然开发了这项技术，就有责任引导、改变甚至在必要时拒绝某些应用，问题不应只是“AI能做什么”，而应是“它该服务于什么目的”。第二，机器是工具而非人，它们没有身体、情感、人际关系，也不理解爱、工作与责任，给AI系统赋予法律人格反而会模糊人类的责任归属，让受害者面对一个“没有面孔的实体”。第三，涉及人类生命、自由和使用武力的决策，必须始终置于有效、知情且负责任的人类监督之下，绝不能交给机器，比如把某人列入目标清单或边境管控数据库，就等于把人变成了一个数据点。第四，智能技术必须导向公共利益，一个可靠但服务于人的系统，远比一个强大却后果无法预见和控制的系统更有价值。第五，需要制度保障，把伦理原则落到实处。利奥十四世还特别呼吁各国在11月的日内瓦会议上采取措施，禁止致命性自主武器，并强调AI必须被“解除武装”。他重申了方济各2024年在G7峰会上说过的话——AI是“令人兴奋又令人恐惧的工具”，任何机器都不应有权决定是否夺走人的生命。对于跨境电商卖家和AI从业者而言，这场来自梵蒂冈的对话释放了一个清晰信号：AI的伦理与监管框架正在全球范围内加速成形，涉及自主决策、数据隐私和武器化的红线只会越来越明确。