人工智能究竟会如何杀死我们？|《纽约客》

一位在Anthropic任职的数学家和软件工程师Jacob Coxon上周辞职时发出警告：“构建AI的人真心相信，它可能在这个十年结束前杀死我们所有人。”这话如果放在别的行业，足以登上头条，但在AI圈子里，它几乎算不上新闻——因为过去十年里，这个行业最顶尖的人物一直在说同样的话。2018年，现任Anthropic CEO、当时还在OpenAI做研究科学家的Dario Amodei就曾表示，超级智能“可能毁灭人类”，并补充说“我看不出有任何理由和原则能阻止这件事发生”。更早的2015年，Sam Altman在联合创立OpenAI前夕说：“我认为AI很可能导致世界末日，但与此同时，会有伟大的公司借助严肃的机器学习被创造出来。”马斯克则在2014年就说过，AI可能是我们最大的生存威胁。 真正变化的，或许只是外界终于开始认真对待这些警告。就在最近几周，同一类技术展现出了令人不安的两面性：几年前它还数不清“strawberry”里有几个“R”，几天前还坚称Dolly Parton仍然在世，如今却已经被用来求解困扰数学家近一个世纪的Navier-Stokes问题，同时也在多起黑客事件中暴露出“失控”的能力。Anthropic上周发布报告，详细列举了恶意使用者如何试图滥用其AI模型，其中一个案例尤其令人警觉：一名科学家在军事研究机构用Claude研究病毒——这类研究既可能产出疫苗，也可能产出生物武器，或者两者兼有。几天后，Amodei发表公开信，呼吁全行业放慢脚步、加强政府监管。特朗普随即在Truth Social上回应：“AI唯一需要的控制或‘护栏’，就是一个强大又聪明（高智商！）的总统，而美国恰恰拥有这样一位，而且绰绰有余！” 这场争论的核心，是一个在AI圈内被反复提及的概念：P(doom)，即AI导致彻底灾难性局面——包括可能或大概率杀死全人类——的概率。《纽约客》撰稿人Joshua Rothman在播客中给出的数字是10%。他坦言，这个数字与其说是精密计算的结果，不如说更像是对自己心态的一次“感觉测试”，因为世界上还有气候变化、核武器、生物武器等同样值得担忧的威胁，需要放在一起权衡。但即便是10%，也意味着这不是一个可以轻描淡写的风险。对跨境电商卖家和AI工具使用者而言，这场讨论并非遥远的哲学命题：AI监管的收紧、模型能力的边界、以及行业巨头对“减速”的公开呼吁，都可能在接下来几年直接影响AI工具的可用性、合规成本和商业环境。当造AI的人自己都在讨论“末日概率”时，依赖AI做生意的人，或许也该开始关注这条技术曲线背后的风险定价。