为AI竞赛减速的人们

在英格兰北部城市谢菲尔德一间不起眼的办公室角落里，一台装满英伟达芯片的紧凑服务器正在嗡嗡作响。这是全球各地如雨后春笋般涌现的巨型数据中心的一个缩影——那些占地堪比小镇、耗电惊人的计算机集群，正是前沿AI模型的实体化身。而在这八块芯片上，来自咨询公司Amodo Design的工程师们正在试验一套监控系统，他们希望有朝一日这套系统能进入每一座数据中心，缓解那些担心自己亲手打造的技术可能毁灭世界的AI研究人员的焦虑。 今年7月底，超过1300名前沿AI公司的员工签署了一封公开信，警告他们开发的AI正迅速变得过于强大，人类可能很快无法再控制它。他们呼吁，为了给安全研究争取更多时间、避免灾难发生，放慢AI发展速度可能至关重要。但信中同时指出，由于企业和国家之间的激烈竞争，放慢速度在本质上几乎不可能实现。这些顶尖科学家表示，AI竞赛已陷入军备竞赛式的动态，任何一方减速只会把胜利拱手让给不愿减速的对手。这封信的核心诉求——一个对1300位全球顶级AI研究者来说重要到要公开呼吁的事项——是请求美国政府支持一项国际努力，开发能让各方都放慢AI竞赛步伐的工具。然而到目前为止，只有一小群人在从事这项工作。Amodo首席执行官汤姆·米尔顿估计，全球全职从事所谓“AI验证”工具开发的工程师不到50人，其中9人在Amodo，另有几十名政策研究人员分散在少数公司和研究机构。与此同时，数万亿美元资金和全球最大科技公司的全部力量，正被投入到尽可能快地让AI系统变得更强大上。开发减速工具的努力主要靠学术界和慈善资金支持（Amodo在这一领域的工作由生存与繁荣基金和Longview Philanthropy资助，这两家资助机构在降低AI相关风险方面投入了大量资金）。“令人惊讶的是做这件事的人这么少，”28岁的米尔顿说，他几年前几乎是偶然进入这个领域，当时Amodo受托在该领域开展一些工作。 在谢菲尔德，三名工作人员围坐在他们的计算集群旁，头顶的空调正全力运转。他们的小规模原型机可能运行得发烫，但尚未准备好。米尔顿表示，许多技术障碍仍待克服，还有一个更大的政治障碍：除非美国和中国坐到谈判桌前，就AI减速条约达成一致，否则这套系统毫无用处。至少就目前而言，这样的协议看起来不太可能。但Amodo的工程师们敏锐地意识到，政治选择取决于技术上什么是可能的。冷战时期限制军备竞赛的条约之所以能达成，正是因为卫星和地震仪等新技术让各方能够核查对方的履约情况。米尔顿预计AI领域也会迎来类似时刻。当那一刻到来时，他希望自己已经准备好了。 AI验证如何运作：没有人知道AI减速条约可能是什么样子，但Amodo的工程师认为，鉴于数据中心是AI物理存在的场所，条约很可能要求对数据中心进行监控。米尔顿说，Amodo正在构建的当前原型可能为数据中心提供两项保证，这在未来几年可能会很有用。第一，数据中心只用于推理，即运行现有AI模型，而非训练新模型。第二，数据中心没有进行超出约定规模的训练。这需要一套复杂的“重计算”算法，通过定期检查数据中心的计算活动，确保其没有偷偷进行大规模训练。这种验证机制类似于国际原子能机构对核设施的检查，只不过对象换成了AI基础设施。尽管前路漫漫，但米尔顿和他的团队相信，就像冷战时期的核查技术最终促成了军控条约一样，AI验证工具也将为全球AI治理奠定技术基础。