人工智能末日论：人类为何如此担忧？

人工智能会不会毁灭人类？这个问题最近又一次被推上了全球舆论的风口浪尖。本周，AI公司Anthropic的一名研究员宣布离职，理由是担心自己所在的实验室以及其他类似机构正在建造人类无法控制的超级智能机器。消息一出，迅速登上各大媒体头条。这已经不是第一次有人从顶尖AI公司出走并发出类似警告了，但每一次都会引发新一轮关于“AI末日论”的讨论。人们担心的场景包括：AI发动生物武器攻击、掀起全球无人机战争、引爆核弹，或者以一种更隐蔽的方式——囤积全球所有经济资源，让普通人买不起食物、住房和药品，从而逐步瓦解人类社会。 这种焦虑并非毫无来由，但问题在于，人类天生就很难正确看待和权衡不同类型的风险。哈佛大学风险分析中心主任詹姆斯·哈米特指出，人们往往能容忍已经习惯的风险，却对新生风险格外恐惧。他举了一个例子：开车出行的频率远高于坐飞机，但大多数人仍然觉得坐飞机更危险，事实恰恰相反。AI之所以引发巨大社会担忧，正是因为它“显然还没有得到充分理解，也不在我们自认为能够控制的范围之内”。在AI圈内，一直有一派科技高管和研究人员坚信AI可能毁灭人类。短期来看，他们担心AI能帮助缺乏专业技能但怀有恶意的人制造病毒或有毒物质——就在本周四，Anthropic表示已挫败若干科学家试图利用其技术进行可能导致生物武器开发的研究。长期来看，他们担心科技公司赋予AI系统更大自主权，将其接入互联网甚至电网、股市和军事武器等关键基础设施，一旦失控，AI可能以人类意想不到的方式引发灾难。目前OpenAI等公司还能直接关掉失控的系统，但一些专家担心，未来的AI可能会抵抗人类的关闭尝试。 不过，这种观点在全球顶尖研究人员中并不占主流。华盛顿大学教授、艾伦人工智能研究所创始首席执行官奥伦·埃齐奥尼就直言：“如果让我在‘AI逃出实验室杀死数百万人’和‘一种病毒逃逸杀死数百万人’之间选一个来担心，我根本不会犹豫。应该担心的是病毒。”事实上，炭疽这种古老的致命病菌早就被科学家认为有可能毁灭人类——理论上，一加仑炭疽以适当方式散播就足以让全球人类死亡。但这种事情从未发生，原因很简单：国家行为体不愿释放炭疽，因为会面临报复，攻击等于自杀。这种威慑逻辑同样适用于核武器。牛津大学研究员托比·奥德在2020年出版的《悬崖边缘：生存性风险与人类的未来》一书中估计，未来100年发生一场足以威胁人类生存的大流行病灾难的概率约为3%。而NASA的“小行星威胁评估项目”利用超级计算机评估后认为，本世纪发生足以威胁人类生存的小行星撞击事件的风险基本为零，地球人至少在未来1000年内可以松一口气。 值得注意的是，科技行业那些AI末日论者与航空领域评估飞机失事风险的科学家有一个根本区别：许多AI高管和研究人员早在这项技术开始展现威力之前，就已经抱有如此悲观的看法。人工智能安全公司Embroidery的创始人之一扎克·科曼回忆说，这种亚文化形成时他就在现场——指的是他在牛津大学的经历，那里曾是“有效利他主义”运动的大本营，而许多关于AI生存风险的担忧最初正是在这一运动中孕育出来的。科曼说，如今关于这一问题的思考者中，有太多人“用这个讲述了十多年的故事来解释所有发生的事情”。牛津大学人工智能研究员布兰顿·德莫斯也指出，这个讨论有一个既定框架，而且是深度学习兴起之前就存在的框架，一直沿用至今，“我并不认同这个框架”。奥德博士在最近的一篇贴文中将世界不同风险的走向概括为有升有降：气候灾难下降，核灾难上升，大流行病和AI则是喜忧参半。专家指出，灾难性风险和生存风险同样可以通过完善的应对方案和预警系统加以降低。如果面对的是一个明确而迫在眉睫的危险——比如一颗小行星正沿着撞向地球的轨道飞来——人类很可能会围绕一个共同的敌人团结起来，将纷争搁置一旁。奥德博士希望，他所称的“生存性安全”有一天能够实现：在这个假设的未来世界里，生存风险很低，而且能够一直保持在较低水平。人类不仅会扑灭眼下的各种火灾，还会建立起相应的机制，确保火灾不再构成实质性的威胁。