探秘Prometheus：Meta打造千兆瓦级超级集群之旅

Meta在俄亥俄州新奥爾巴尼的数据中心里，正在推进其迄今最激进的AI基础设施项目Prometheus。这个吉瓦级超级计算集群的第一阶段已经建成投用，并已用于训练Meta最新的Muse系列基础模型，包括面向个人和专业智能体任务的Muse Wonder。按照规划，Prometheus最终将扩展到约100万块GPU的规模，成为支撑下一代前沿模型训练的核心底座。 这件事的背景值得说清楚。两年前，新奥爾巴尼还只是一个承载网页流量的常规数据中心，Meta通过硬件、网络和建筑设计的整体改造，把它变成了前沿模型的训练基地。Prometheus由分布在多栋互联建筑中的数十万块GPU组成，这些建筑包括传统数据中心、AI优化数据中心和快速部署结构，彼此通过数英里长的光纤紧密连接，对外表现为一台单一机器。这种架构让Meta能够训练比以往更大、上下文窗口更长的模型。目前集群部署了两代英伟达GPU平台，第一代Catalina基于GB200 NVL72，采用双机架配置、每机架36块GPU通过NVLink组成72卡统一域，每块Blackwell GPU搭配一颗Grace CPU和两块ConnectX-7 400G网卡，使Meta比行业更早实现了每GPU 800G的I/O带宽；第三代基于Vera Rubin NVL72的平台也即将到位。 对超大规模训练而言，稳定性直接决定成败——单台主机出问题就可能拖慢甚至中断整个训练任务，拉低有效算力利用率。Meta称，通过提升系统稳定性和可靠性，Muse Wonder预训练的有效算力利用率超过85%，强化学习训练超过90%，训练期间的平均无中断时长约为4.7万GPU小时，此后又通过固件修复把这一指标提升到5.4万GPU小时以上，并仍在持续优化。散热方面，Prometheus采用了闭环液冷等技术来控制能耗。对关注算力供给的从业者来说，这个项目的意义在于：当单集群规模逼近百万卡量级，竞争焦点已从单纯堆GPU转向网络互联、故障容错和能效管理的系统工程能力，而这正是决定前沿模型训练成本和时间窗口的关键变量。