我们最新的TPU:8tx与8i Max,为智能体时代打造 - 谷歌博客
8 天前 1 阅读来源:blog.google
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
谷歌正在把TPU从"训练大模型的专用芯片"推向"跑智能体的通用基础设施"。当地时间11月9日,谷歌宣布扩充第八代TPU产品线,新增TPU 8tx和TPU 8i Max两款系统,分别面向保密推理和海量上下文窗口场景。这是谷歌首次在一年内推出四款TPU系统——今年4月Google Cloud Next大会上,它刚发布主打大规模训练的TPU 8t和主打实时推理的TPU 8i,官方称两者训练性能较上代提升最高2.7倍,推理性价比提升80%。
这轮扩张的直接推手,是计算负载正从"人"的规模转向"智能体"的规模。谷歌AI与基础设施首席技术官Amin Vahdat在博客中解释,企业客户开始要求加速器能够在超长上下文窗口中跨多个AI模型进行推理,而部分受强监管行业客户则需要针对特定工作负载的加密能力——TPU 8tx提供的正是硬件级安全与保密推理,TPU 8i Max则主打单机架最高算力密度和超大上下文处理。换句话说,这两款芯片不是为训练更大的模型,而是为让AI智能体在真实业务里长时间、多步骤地自主运行。
对卖家和出海团队而言,这件事的短期影响不在芯片本身,而在云服务成本与能力边界。谷歌同时宣布TPU生态向PyTorch和开源软件栈开放,并推出面向开发者的自动化工具,意在降低非谷歌技术栈团队的使用门槛。目前TPU业务已有近100家客户,涵盖前沿实验室、交易机构、零售商和高校,且已支持客户将TPU直接部署进自有数据中心。当推理硬件的性价比和部署灵活性同步提升,依赖AI做选品分析、广告投放、客服自动化的跨境团队,未来在云算力上的选择余地和议价空间都会变大。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
