使用AI网关自动路由器削减AI支出

Cloudflare 近日在其 AI Gateway 中正式推出 Auto Router 公开测试版，企业只需将模型设置为 cloudflare/auto，系统便会自动把每次请求路由到能力足够胜任该任务的模型上，用户无需再手动挑选模型。根据 Cloudflare 内部通过 OpenCode 工具链的早期测试数据，相比只用 OpenAI Sol、Anthropic Claude Opus 这类前沿大模型，Auto Router 最高可节省 30% 的成本。 这项功能的推出，源于企业在 AI 落地过程中普遍遇到的一个矛盾：预算和限额管得住总量，却管不住每一次具体选择。Cloudflare 在跟大量不同阶段的公司交流后发现，企业 AI 采用通常经历两个阶段——先是探索期，各种工具都上、API 密钥随便发、token 敞开用；随后逐渐收敛到几款主力工具上，用于智能体编程、非技术工作流以及智能体的运行部署。等到 AI 使用正式化，企业自然想按用户管理和监督 token 开销，但光靠预算和规则远远不够。问题在于，包括 OpenCode、Claude Code、Codex 在内的许多工具链里，模型仍由每个用户手动选择，而任务难度并不均等，很多人会用"杀鸡用牛刀"的方式调用模型——比如总结一封邮件或一段聊天记录，根本用不上 Opus 级别的智能，但企业又不可能把这类高能力模型对安全工程团队完全封禁。 Cloudflare 的思路是让 AI Gateway 成为企业部署 AI 的控制平面。由于每个用户、每个智能体、每个工具的请求都会流经网关，它天然具备"既观察又执行"的条件。此前的预算、消费限额和身份感知分析给企业提供了可见性和护栏，但仍依赖个人逐次做出省钱的判断。下一步就是让网关代替用户做智能决策：把每个请求发给能力刚好够用的模型，既自动降低开销，又保证用户在工作真正需要时仍能用到最强模型。在 Cloudflare 内部的 OpenCode 部署和自研智能体工具链 Cloudflare OS 中，Auto Router 在编程任务上的表现已可与前沿模型比肩，而在跨技术与非技术团队的广泛知识工作场景中效果最佳。其内部通用知识工作基准测试覆盖邮件、日历、Slack、文件、差旅和财务等日常流程，cloudflare/auto 的成功率为 86.6%，单次成功成本 0.0084 美元，约为 GPT-6 Sol 的 80%、Claude Opus 5.5 的 35%。对跨境电商卖家和出海团队而言，这意味着在客服回复、商品文案、数据分析等大量日常 AI 调用中，可以在不牺牲效果的前提下显著压低 token 账单。