为AI竞赛减速的人们

在英格兰北部城市谢菲尔德一间不起眼的办公室角落里，一台装满英伟达芯片的紧凑型服务器正在嗡嗡作响。这台服务器是全球各地如雨后春笋般涌现的巨型数据中心的一个缩影——那些占地堪比小镇、耗电惊人的计算机集群，正是前沿AI模型的物理化身。而在这八块芯片上，来自咨询公司Amodo Design的工程师们正在测试一套监控系统，他们希望有一天这套系统能进入每一个数据中心，缓解那些担心自己正在打造的技术可能毁灭世界的AI研究人员的焦虑。 今年7月底，超过1300名前沿AI公司的员工签署了一封公开信，警告他们开发的AI系统正迅速变得过于强大，人类可能很快无法再控制它。他们警告说，放慢AI开发速度可能变得至关重要，以便为安全研究争取更多时间，从而避免灾难。但这些顶尖科学家写道，由于公司和国家之间的激烈竞争，放慢速度基本上是不可能的。AI竞赛陷入了一种军备竞赛式的动态，一个团队放慢速度只会把胜利拱手让给那些不放慢的对手。这封信的主要诉求——一个对全球1300名顶级AI研究人员如此重要以至于他们公开呼吁的诉求——是要求美国政府支持一项国际努力，建立能让各方放慢AI竞赛的工具。 到目前为止，只有一小群人在从事这项工作。Amodo首席执行官汤姆·米尔顿估计，全球全职从事所谓“AI验证”工具开发的工程师不到50人——其中9人在Amodo——此外还有几十名政策研究人员分散在几家公司和研究机构中。与此同时，数万亿美元和全球最大科技公司的联合力量，正致力于尽可能快地让AI系统变得更强大。而构建减速工具的努力主要由学术界和慈善机构资助。（Amodo在这一领域的工作由生存与繁荣基金和Longview Philanthropy资助，这两家资助机构在降低AI相关风险方面投入了大量资金。）“令人惊讶的是，做这件事的人非常少，”28岁的米尔顿说，他几年前几乎是偶然进入这个领域的，当时Amodo受托在该领域做一些工作。 在谢菲尔德，三名工作人员挤在他们的计算集群周围，头顶的空调正全力运转。他们的小规模原型机可能运行得很热，但还没有准备好。米尔顿说，许多技术障碍仍然摆在面前，还有一个更大的政治障碍：除非美国和中国坐到谈判桌前，就AI减速条约达成一致，否则这套系统不会有用。至少目前看来，这样的协议似乎不太可能达成。但Amodo的工程师们敏锐地意识到，政治选择取决于技术可能性。冷战期间限制军备竞赛的条约之所以可能，是因为卫星和地震仪等新技术让各方能够核实对方的遵守情况。米尔顿预计AI领域也会出现类似的时刻。当那个时刻到来时，他希望自己已经准备好了。 AI验证如何运作：没有人知道AI减速条约会是什么样子，但Amodo的工程师认为，考虑到数据中心是AI物理存在的地方，条约很可能需要监控数据中心。米尔顿说，Amodo目前正在构建的原型机可能能够对数据中心提供两种保证，这在未来几年可能会很有帮助。首先，数据中心只用于推理——即运行现有的AI模型，而不是训练新的模型。其次，数据中心没有连接到可能用于训练更强大模型的秘密计算资源。这套系统的核心是一种“重新计算”算法，它通过监控数据中心的计算活动，确保没有超出条约允许范围的训练行为发生。 米尔顿承认，这套系统距离实际部署还有很长的路要走，技术挑战包括如何在不泄露商业机密的情况下验证计算活动，以及如何防止数据中心运营商通过欺骗手段绕过监控。但他认为，就像冷战时期的卫星侦察技术一样，AI验证工具的出现是国际AI治理的必要前提。没有验证手段，任何减速条约都只是一纸空文。而对于那些担心AI失控风险的研究人员来说，这套系统可能是他们在灾难发生前唯一的刹车装置。