AI评分 一般 (62)AI 中文改写

NVIDIA DSX MaxLPS:最大化AI工厂每瓦性能

17 小时前 1 阅读来源:developer.nvidia.com

AI 中文改写

原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接

NVIDIA推出DSX MaxLPS:让AI工厂每一瓦电都变成真金白银 AI工厂正在成为耗电大户,但问题早已不是“能塞进多少块GPU”,而是“每兆瓦电能产出多少AI结果”。对于AI推理这类工作负载,应用层面的每瓦性能已成为衡量AI工厂效率的核心指标。NVIDIA近日发布了DSX MaxLPS技术套件,目标是在固定电力预算内最大化AI工厂的吞吐量。 这套技术的背景很直白:电力分配、冷却、网络、存储、备份和设施开销会在电力到达GPU之前就分走一部分。传统静态机架供电方式按每机架最大功耗预留电力,以应对最坏情况下的峰值需求,但实际工作负载的功耗需求各不相同,预留的电力往往用不完。NVIDIA在分析中发现,在一个典型的100兆瓦AI工厂中,电网输入100兆瓦,设施开销占20兆瓦,机架损耗占10兆瓦,因故障、重启和检查点导致的运营低效又损失10兆瓦,最终只有60兆瓦真正用于AI计算。这意味着40%的电力被“浪费”在了非计算环节。 MaxLPS(Maximum Land Power Shell)正是针对这一痛点设计。它从三个层面优化电力利用:动态电力分配持续监控并回收未使用的电力余量,分配给GPU;软件层面的功耗优化技术提升固定电力预算下的任务级性能;45°C热效率与站点设计通过温水液体冷却降低冷却开销,改善PUE(电力使用效率),让更多电力直接转化为计算能力。 核心变化:动态电力分配取代静态预留 传统数据中心规划中,每个机架都像一座孤岛,预留的峰值电力无法借给邻居使用。即使某个机架实际功耗远低于预留值,多余电力也只能闲置。DSX MaxLPS通过动态电力软件(DPS,目前处于开发者预览阶段)改变了这一局面。DPS是一个全面的电力管理系统,从电网入口到机架、节点、GPU逐层建模数据中心拓扑,运营商可以定义资源组、电力预算等参数,系统实时监控并动态分配电力。 对于跨境电商卖家和AI从业者来说,这意味着什么?简单说,AI推理成本将大幅下降。过去为了应对峰值需求而预留的电力,现在可以被动态调配给真正需要算力的任务。训练、后训练和推理过程中,计算突发、内存受限执行、同步、检查点、预填充、解码、空闲间隙和网络通信等不同阶段对电力的需求各不相同,动态分配让每一瓦电都用在刀刃上。 NVIDIA表示,MaxLPS的设计初衷是优化土地、电力、物理设施这三层约束。在电力成本日益攀升、数据中心扩张受限的当下,这项技术直接关系到AI工厂的投资回报率。对于依赖AI推理服务的跨境电商企业,这意味着更低的算力成本和更高效的模型部署;对于AI基础设施运营者,则意味着在同样的电力预算内可以承载更多业务。

以上为 AI 中文改写版本,如需查看英文原文请访问

英文原文 · developer.nvidia.com

内容版权归原作者及 developer.nvidia.com 所有

这篇文章对你有帮助吗?
觉得有用?分享给更多人

留言 · 0

暂无留言,来说两句吧

留言经合规过滤后展示,禁止违法内容