AI评分 一般 (53)AI 中文改写

从兆瓦到令牌:英伟达如何最大化AI工厂产能

4 小时前 1 阅读来源:blogs.nvidia.com

AI 中文改写

原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接

今年8月一个闷热的傍晚,硅谷气温居高不下,空调负荷飙升,当地公用事业公司Silicon Valley Power向一座AI工厂发出信号,要求其调整用电。Emerald AI团队在旧金山会议室里,与数据中心工程师和电力公司人员共约四十人一起盯着Zoom屏幕。没有人动手操作。Emerald AI的Conductor平台——一个来自英伟达合作伙伴Emerald AI的电网调度平台,也是英伟达DSX Flex所支持的灵活调度能力的早期案例——接收到电网状态信号后,自动调整数据中心内可灵活调度的计算任务:可以等待的工作被降速或重新排期,高优先级服务继续运行。目标是在电网承压时降低用电需求,同时不中断关键AI任务。当屏幕上显示用电量确实下降时,所有人都欢呼起来。Emerald AI负责人Varun Sivaram说,这是他们第一次在数千块英伟达GPU上部署这套系统。他的产品负责人Mansi Shah形容那一刻“有点像SpaceX火箭发射”。Silicon Valley Power此后又向这座AI工厂发送了超过200次需求信号,每一次都成功执行。 这件事的意义远不止圣克拉拉的一座设施。它指向一条路径:在不等待新建输电线路耗时十年的情况下,释放美国AI工厂所需的电力。在周二的AI Infra Summit上,英伟达超大规模与高性能计算副总裁Ian Buck将AI工厂效率作为其基础设施演讲的核心。同日发布的云服务商Lambda在部署环境中的首次验证结果显示:在固定电力预算下,通过智能管理,token吞吐量可提升24%。Lambda云服务总裁Dave Ward表示,这一概念验证表明他们已突破固定电力预算的限制,DSX MaxLPS为回收搁浅容量并将其转化为实际使用铺平了道路,在相同占地内实现显著更高的计算密度。 在AI工厂经济中,电力是约束条件,每吉瓦产出多少工作量才是衡量指标。数据中心运营商对效率极为苛刻——每一瓦都要用于产出有效计算,行业已在从设施设计到机架级电源转换的每一层取得显著进步。DSX将这种纪律延伸到AI工作负载本身:更智能的机架配置把电力送到工作负载真正需要的地方;运营智能——更紧凑的调度、更快的重启、更精简的检查点——让GPU持续运行而非空等。目标始终如一:用现有电力做更多的事。英伟达创始人兼CEO黄仁勋曾说过,一座一吉瓦的工厂永远不会变成两吉瓦的工厂。当系统触及物理极限时,工程师们给出的答案总是相同的:停止优化零件,开始设计整体。今年5月在台北GTC上发布的英伟达DSX,就是AI工厂的这套答案,早期部署已在验证其效果。该平台覆盖网络、冷却、水效率和设施设计,上述案例聚焦于电力管理和电网参与方面已取得的成果。

以上为 AI 中文改写版本,如需查看英文原文请访问

英文原文 · blogs.nvidia.com

内容版权归原作者及 blogs.nvidia.com 所有

这篇文章对你有帮助吗?
觉得有用?分享给更多人

留言 · 0

暂无留言,来说两句吧

留言经合规过滤后展示,禁止违法内容