人工智能的漫长末日 | 纽约客

人工智能的“末日论”正在从科幻走进立法议程。在威廉·吉布森1984年的科幻小说《神经漫游者》中，有一支被称为“图灵警察”的执法力量，专门阻止人工智能变得过于聪明——特工配枪、有权逮捕，法律要求所有现存AI都登记在册，每台机器“额头上都绑着一把电磁霰弹枪”。如今，这个虚构设定正在被现实中的美国国会认真讨论：参议员伯尼·桑德斯和众议员格雷格·卡萨尔已提出法案，从事“超级智能”研究的科学家可能面临最高20年监禁；泰德·刘和纳撒尼尔·莫兰提出的“AI终止开关法案”则要求AI公司必须让系统能在短时间内被强制关闭。这些提案若落地，将催生一个“内阁级别的联邦AI安全机构”，对计算机科学家的工作进行监控，甚至在数据中心安装实体“验证设备”来检测是否有人在训练新AI。 但真正值得玩味的是，这种“极限派”主张与AI行业内部正在形成的“温和派”路线之间，出现了巨大的认知鸿沟。Anthropic公司CEO达里奥·阿莫代伊近日发表文章《我们必须为前沿技术定速》，提出“定速”而非“刹车”——不是停止，甚至不是暂停，而是选择比全速前进稍微慢一点，让风险防范有时间跟上。在他的设想中，外部审计机构通过检查和发布安全警告来约束发展节奏，Anthropic已承诺允许“嵌入式评估员”进入其核心部门。但阿莫代伊同时强调，中国追赶美国AI公司的努力会限制减速的幅度，他声称“中国在AI领域的领先将给美国和世界带来严重危险”，包括“AI驱动的无人机”等军事创新。因此他呼吁的是一种“再校准”，而非紧急制动——“进步仍将看起来很快”。 这种分歧引出了一个尖锐的问题：如果AI真的像刚从Anthropic辞职抗议其安全政策的软件工程师雅各布·考克森所说，“可能在这个十年结束前杀死我们所有人”，那为什么我们只满足于“定速”这样的温和方案？为什么不直接叫来图灵警察，拔掉插头？反过来，如果AI的安全问题只需“1到2年”的“深刻”进展就能解决，那对危险的担忧是否又被夸大了？这场辩论的实质，是AI安全治理正站在一个十字路口：一边是立法者试图用刑法和监管机构筑起高墙，另一边是行业内部试图用“自律定速”来争取时间和空间。对于中国跨境电商卖家和AI从业者而言，这意味着未来几年美国AI监管政策可能出现的剧烈摆动——从“终止开关”到“嵌入式评估”，每一种方案都会直接影响AI工具的可用性、合规成本和跨境数据流动规则。而阿莫代伊文中将中国AI发展视为需要“应对的地缘政治困境”的表述，也预示着AI安全议题将进一步与中美科技竞争捆绑，出海企业需要为更复杂的合规环境做好准备。