Writer推出新AI模型及升级版工具以控制Token成本
3 小时前 1 阅读来源:techcrunch.com
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
AI行业正在经历一场“成本焦虑”。随着大模型应用从概念验证走向规模化部署,企业用户越来越清楚地意识到,每一次API调用、每一个token消耗,都在以惊人的速度吞噬预算。开源模型虽然单价更低,但面对复杂、多步骤的任务时,如何精准选型、避免性能浪费,却成了新的难题。就在这个节骨眼上,面向营销人员的AI工具与智能体供应商Writer,于周四推出了其新一代旗舰模型Palmyra X6,试图用“更便宜的部署”和“更聪明的调度”来回应市场的痛点。
核心变化:Palmyra X6并非从零训练的“原生大模型”,而是基于Z.ai开源模型GLM-5.2进行后训练(post-training)的变体。Writer宣称,新系统能提供“开箱即用”的部署能力,且价格远低于同类产品。更关键的是,Writer同时升级了其标准的智能体“harness”(即模型运行时的编排与调度框架)。公司估算,新模型配合harness基础设施的改进,能为客户在基础任务上削减高达50%的成本。这两项功能已于周四向所有Writer客户开放。
为什么是“harness”而非“模型”本身?Writer CEO May Habib直言:“企业已经厌倦了追逐下一个基准测试分数,他们想要的是成本曲线被压平,而目前似乎没人能做到。”这种判断背后是残酷的现实:在复杂、多步骤的智能体任务中,token消耗往往呈指数级增长,而模型本身的推理能力提升却远跟不上成本膨胀的速度。Writer研究团队近期发布的一篇论文为此提供了佐证——他们测试了多种模型在不同harness效率下的表现,发现调整harness的调度逻辑、上下文管理方式,往往比更换模型更能稳定地降低成本,在测试中平均降幅达40%。研究人员在论文中写道:“harness是唯一一个其效率能放大组织内所有模型(无论现在还是未来)的组件。”
对Writer的客户而言,这种优化是“模型无关”的。Palmyra X6将与其他Writer自有模型,或通过Azure、Amazon Bedrock导入的外部模型并行使用,企业无需改变现有技术栈。但Habib的野心不止于此,她认为这股降本压力正在加剧企业对头部AI实验室的不信任:“成本爆炸对客户来说是前所未有的,CIO们对实验室的放弃程度也是前所未有的。”她补充道,那些大模型实验室“并没有真正深刻理解如何帮助企业从AI中获益”。言下之意,Writer想做的不仅是卖模型,更是做那个真正懂企业预算、能帮企业把每一分钱花在刀刃上的“成本管家”。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
