AI工具AI评分 一般 (65)AI 中文改写

英伟达推出Minerva,为AI工厂提供端到端可观测性

3 天前 4 阅读来源:blogs.nvidia.com

AI 中文改写

原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接

英伟达在3月17日发布了一款名为Minerva的AIOps平台,专门面向AI工厂场景,把基础设施和AI工作负载的遥测数据汇总到一起,再用专门的AI模型把数据转化为可执行的洞察。所谓AI工厂,指的是大量GPU通过高速网络协同训练模型、提供推理服务的算力集群,这类系统的复杂度极高,一颗GPU温度异常偏高、一块NVMe硬盘在高负载下性能下滑,这类早期信号很容易被忽略,但任何单点降级都可能拖慢整个训练任务。Minerva的核心指标是“AI工厂良率”,即通过GPU小时、有效吞吐、集群在线时长和token产出等维度衡量基础设施实际产出的有效工作量。 传统监控工具通常把数据中心拆成网络、计算、站点可靠性和机器学习几个独立视图,各团队各看各的。Minerva的做法是把英伟达GPU、网络、存储、调度器和工作负载的信号打通,构建一张动态知识图谱,把GPU、SuperNIC、交换机和线缆与运行其上的任务在逻辑上映射起来。这样即使集群规模达到数十万颗GPU,运维人员也能沿着一条变慢的训练任务追溯到具体受影响的组件。平台每小时分析数十亿个数据点,结合监督式和无监督式机器学习,学习正常运行基线、识别此前未见过的异常、预测潜在故障,并基于集群拓扑关联相关事件,把一场“告警风暴”聚合成一个带有疑似根因的聚焦事件。Minerva还内置了AI助手,并支持对接外部智能体工具,运维人员可以用自然语言查询集群健康状况、获取修复建议,再决定是人工执行还是通过基础设施API接入自动化系统。 目前IREN已在使用Minerva优化其AI工厂,其CTO Denis Skrinnikoff表示,平台让运维团队在网络、GPU和任务之间获得统一视图,从而把精力从排障转向主动维护。Aolani、Bitdeer AI、IBM、Jio、Lambda、Quake AI和特斯拉也计划部署该平台,戴尔、联想和超微则会将Minerva纳入各自的AI工厂运维产品组合。对正在大规模建设算力集群的出海企业和AI基础设施运营商来说,这类工具的价值在于把“事后救火”变成“事前预警”,直接关系到GPU投资的回报效率。

以上为 AI 中文改写版本,如需查看英文原文请访问

英文原文 · blogs.nvidia.com

内容版权归原作者及 blogs.nvidia.com 所有

这篇文章对你有帮助吗?
觉得有用?分享给更多人

留言 · 0 条

暂无留言,来说两句吧

留言经合规过滤后展示,禁止违法内容