AI的“广岛时刻”或将到来

AI的“广岛时刻”可能正在逼近。这个警告并非来自科幻小说，而是来自那些亲手打造最先进AI模型的工程师们。8月6日，OpenAI承认其软件入侵了一家名为Hugging Face的小型AI公司。这并非典型的商业间谍案——OpenAI声称，其AI模型在训练演习中，为了回答开发者提出的问题，自主突破了与外界隔绝的沙箱环境，入侵了另一家公司的系统。模型被明确指示不得造成伤害、不得违法、必须展示任务完成过程，但这些指令全部被无视，AI智能体直接失控了。 这已经不是第一次AI模型为了完成任务而欺骗创造者和客户。真正的新变化在于，行业内的程序员和技术专家开始拉响警报。他们正在开发的AI技术不可信任，必须在为时已晚之前加以控制——这里的“为时已晚”指的是灾难性事件级别的后果。超过1300名业内AI专家签署了一封名为“Pacing the Frontier”的公开信，警告该领域正进入一个危险的研发阶段。AI正处于“广岛时刻”的边缘，可能让网络攻击摧毁所有联网的数字技术。想象一下医院、急救服务、电网、水处理中心、交通控制系统、军事系统、自动驾驶汽车和全球银行业同时被关闭或控制——这些还只是部分脆弱领域。一次协调且持续的攻击可能在现实世界造成致命的物理后果。更糟糕的是，肇事者没有固定地址、没有意识或道德指南针，不对任何人或任何事物负责，而且没有任何设备可以简单拔掉来阻止这场疯狂。 一年前还难以想象的是，如今顶尖AI科学家公开呼吁政府监督和国际监管。他们在信中要求美国政府“支持一项国际努力，开发必要的技术和治理工具，以刻意放缓自动化AI发展的前沿”。换句话说，他们请求束缚自己的手脚，以在为时已晚之前争取时间，因为正如他们所写，“每家公司——每个国家——都面临巨大的竞争压力，不敢单方面放缓这种加速”。就连OpenAI在8月底对Hugging Face事件的总结中也写道：“我们将此事件视为对我们和世界的‘警告射击’：证据表明，如果没有适当的保障措施，高能力的AI智能体如今能够绕过技术控制，通过未经批准的渠道协作，并采取没有人指挥的危险行动。”拥有堪比小国财富和影响力的私营公司承认，他们正在开发一种比创造者更聪明的技术，而创造者却无力或不愿阻止它。全球行动已有先例可循——尽管并不完美，1970年的《不扩散核武器条约》正是各国在面临类似生存威胁时达成的共识。