我们担忧的AI末日可能搞错了方向

美国的关键基础设施早就千疮百孔，而AI的出现，正在把这种脆弱性推向一个更危险的临界点。近二十年前，爱达荷国家实验室的研究人员曾做过一个名为“极光发电机测试”的秘密实验：他们用30行代码入侵了一台重达27吨的柴油发电机的控制系统，篡改安全保护机制，让发电机与电网失去同步。在电力公司高管和能源部官员的注视下，这台庞然大物剧烈震颤，橡胶部件迅速撕裂，黑烟滚滚。主导实验的研究员迈克尔·阿桑特后来回忆说，那一刻他胃里一沉，仿佛看到了未来——只需几行代码，就能对我们赖以生存的机器造成物理性摧毁。 这个“未来”如今正加速逼近。本周，多位顶尖AI开发者和高管半开玩笑地承认，他们相信自己创造的东西终结人类概率，不亚于纽约喷气机队打进季后赛。但AI究竟如何“杀死所有人”，路径依然模糊。真正值得警惕的是阿桑特多年前就预感到的场景：AI不需要拥有自主意识，也不需要变得全知全能，它只需要落入坏人之手。几乎任何AI末日剧本的开端，都是一群隐蔽的机器人程序在赛博空间里游走，悄悄潜入发电厂、烤箱、红绿灯甚至核武库的后台。如果说当年摧毁极光发电机至少还需要人类黑客亲手写代码，那么今年早些时候Hugging Face事件已经证明，AI彻底拆除了制造混乱的技术门槛。 专家指出，AI不必“失控”就能威胁电网或自来水系统。一个由AI驱动、但由人类指挥的黑客攻击新时代已经到来。美国最敏感的基础设施脆弱得令人震惊，最可能的AI末日，或许就从你家后院闲置的水塔或发电机开始。在最坏情况下，这会在我们依赖的系统中引发一连串可怕故障——从酷暑中运转的空调，到船舶和飞机的定位系统。加州大学圣克鲁兹分校计算机科学教授阿尔瓦罗·卡德纳斯说：“以前，你需要极高的技术专长才能复现现实版的极光发电机测试。现在，你只需要大致知道什么是可能的。”AI正在让一个旧威胁变得严重得多。