XPU如何成就世界级AI工厂 - NVIDIA博客

英伟达发布NVLink Fusion，为定制AI芯片铺平“高速公路” AI工厂的算力经济正从“堆芯片”转向“拼系统”。当超大规模云服务商和AI原生公司纷纷下场设计自己的定制XPU（专用加速芯片）时，他们很快发现，真正的瓶颈往往不在芯片本身，而在于如何将这颗“心脏”接入一套成熟、稳定、高效的全身循环系统。英伟达近日发布的NVLink Fusion，正是为了解决这一痛点而生，它试图将定制XPU无缝接入英伟达的NVLink高速互联生态，让开发者能专注于核心创新，而无需从零搭建整个数据中心级别的技术底座。 核心变化：从“单芯片”到“整厂交付”的思维转变 AI工厂需要7x24小时不间断运行，其经济模型完全由产出决定：每秒生成的Token数、每瓦特产生的Token数、单个Token的成本、资源利用率和系统正常运行时间。这意味着AI基础设施必须像一座完整的工厂一样被设计和建造，而非简单堆砌独立加速器。对于构建定制XPU的公司而言，挑战在于他们不仅要设计芯片，还要搞定整个AI平台的方方面面：包括Scale-Up（纵向扩展）和Scale-Out（横向扩展）网络、机架级架构、生产级工厂软件以及庞大的供应商生态。这条路径在AI工厂的规模下既复杂又昂贵，是XPU快速上市的根本性障碍。 NVLink Fusion的推出，正是为了打破这一约束。它允许定制XPU直接接入英伟达的NVLink高速互联域，利用其成熟且经过大规模验证的基础设施。这意味着，开发者可以借助英伟达第六代NVLink技术，在72个XPU的域内实现高带宽、低延迟的互联。数据显示，其端到端延迟比基于现成以太网的替代方案低3倍，数据包处理速率则高出10倍。对于运行万亿参数模型、混合专家架构和智能体AI等现代工作负载来说，这种性能优势直接转化为更低的单Token成本和更高的系统利用率。此外，NVLink Fusion还包含NVLink-C2C互联技术，用于连接英伟达Vera CPU或其他生态系统CPU，其能效是PCIe接口的6倍，有效打通了智能体系统中控制与计算之间的壁垒。 生态与落地：降低风险，加速创新 定制XPU的研发团队往往低估了从芯片创新到数据中心部署之间的巨大鸿沟。这包括集成高速CPU和Scale-Up接口、采购并验证Scale-Up网络方案、设计计算与交换托盘、设计并验证包含散热和供电的机架架构、集成安全与存储，以及管理复杂的供应商生态。英伟达表示，NVLink Fusion的理想平台价值在于，它提供了所有这些“重活累活”的成熟解决方案，让团队能集中精力于针对性的创新。 该方案背后是一个庞大的生态系统支持，涵盖ASIC设计、CPU、IP和光互联合作伙伴。英特尔数据中心硅工程副总裁兼总经理Tim Wilson表示：“NVLink Fusion让客户能够选择最适合其工作负载需求的CPU架构、性能水平和软件能力。”这无疑为那些希望打造差异化AI芯片，但又不想被底层基础设施拖累的公司提供了一条捷径。对于中国的跨境电商卖家和AI从业者而言，这意味着未来AI算力的供给将更加多元和高效，定制化芯片的落地周期有望缩短，从而推动更多创新AI应用（如更智能的选品、营销内容生成和客服机器人）更快投入实际业务，降低试错成本。