IBM与Together AI签署多年协议，扩大开源AI推理规模

IBM与Together AI达成了一项为期多年、总额2.4亿美元的合作协议，计划在IBM Cloud上部署基于NVIDIA HGX B300系统的大规模推理集群，预计于2027年第一季度上线。这将是IBM Cloud上首个专为推理场景打造的HGX B300大规模集群，搭配NVIDIA Spectrum-X以太网网络，据称其AI工厂输出能力相比上一代产品提升30倍。Together AI将借助该集群为开源模型提供推理服务，目标是以更低的token成本为企业客户提供高性能的生成式AI能力。 这笔交易的背景是开源模型在企业端的采用正在加速。Together AI是一家以开源模型为核心卖点的AI云服务商，近期刚完成8亿美元C轮融资，估值达83亿美元，其推理产品目前每月处理400万亿token。公司CEO Vipul Ved Prakash表示，企业客户既想要前沿模型的性能，又不愿接受闭源模型的高溢价，这只有在底层基础设施足够快且可靠的情况下才能实现。选择IBM和NVIDIA，是因为他们在GPU交付速度和产品路线图上符合AI快速扩展的需求。对IBM而言，这不仅是其与NVIDIA合作的深化，也是其在AI云服务市场争夺企业客户的关键一步——通过提供可扩展、经济高效的推理基础设施，帮助Together AI这类AI原生公司进入企业市场，同时让开源AI对全球开发者和企业更易获取。 从行业角度看，这一合作反映出几个趋势：一是推理正在成为AI基础设施竞争的新焦点，相比训练，推理的规模化部署更考验成本控制和网络性能；二是开源模型正在从开发者社区走向企业生产环境，像Together AI这样的中间层服务商扮演着连接GPU资源与企业应用的角色；三是云厂商与AI初创公司的绑定越来越深，IBM通过这类合作弥补其在AI生态中的存在感，而Together AI则获得稳定的算力保障。对于中国跨境电商卖家和AI从业者来说，值得关注的是，开源模型推理的成本结构正在被重新定义，未来企业使用开源模型的性价比可能进一步提升，这也会影响国内AI服务的定价和竞争格局。