人工智能辩论登上联合国舞台

联合国安理会本周三罕见地迎来了一批特殊的证人——全球主要人工智能公司的掌门人。Anthropic首席执行官达里奥·阿莫代伊和OpenAI首席执行官山姆·奥特曼同台出席，向各国代表发出警告：如果不加控制，AI可能失控，甚至威胁全人类。阿莫代伊直言，如果管理不善，AI可能成为全人类的风险；奥特曼则称，人类有可能把未来的控制权拱手让给AI。两人都呼吁通过联合国安理会建立实质性的管控机制，防止技术强大到无法驾驭，同时强调AI的力量不应集中在某一个公司或国家手中。联合国秘书长古特雷斯前一天刚就“杀手机器人”发出警告，专家和欧洲领导人认为这并非危言耸听，而是已经或即将成为现实。对全球决策者来说，核心问题只有一个：生死决策权应该掌握在人类还是机器手里？ 这场辩论的背景是AI能力快速迭代与监管严重滞后之间的巨大落差。就在同一天，美国华盛顿也出现了立法动作。参议员伯尼·桑德斯和众议员格雷格·卡萨尔提出一项法案，要求永久禁止“人工超级智能”——即认知能力超越人类、或足以策划并执行毁灭人类计划的系统。法案还要求在新设立的联邦人工智能部门制定安全规则之前，暂停最先进AI系统的开发，之后相关系统部署前必须获得联邦批准，违规者最高可面临20年监禁。多名来自OpenAI、谷歌DeepMind等公司的员工公开支持该法案，其中OpenAI安全系统研究员塞隆·乌里韦表示，超级智能可能走向极好也可能走向极坏，人类不该玩这种游戏。不过，这项法案在共和党控制的国会面临极大阻力，此前连力度更小的AI监管都难以达成共识。特朗普总统也一直抵制加强政府监管的呼声，与奥特曼、阿莫代伊以及xAI的马斯克等科技领袖立场相左。对跨境电商和AI从业者而言，这意味着短期内美国联邦层面的AI监管仍存在高度不确定性，但围绕“超级智能禁令”和“部署前审批”的讨论已经正式进入立法议程，未来合规成本和技术路线选择都可能受到影响。