IBM CEO：限制AI只会让你慢慢输掉比赛

今年全球AI支出将首次出现一个转折：运行AI系统的花费超过训练它们的花费。训练是少数几家大公司下的资本赌注，而运行是运营开支，只要系统还在使用，这笔钱就每天落在每家企业的损益表上。对商业领袖来说，问题已经不是AI管不管用，而是能不能负担得起大规模运行它。 目前的普遍应对方式是“配给制”。试点阶段花钱少，没人盯着；一旦进入生产环境，成本就是真金白银。于是企业开始限制token用量、在界面上装消费计量表、把最强模型留给少数获批的人使用。IBM CEO 克里希纳对此表示理解，但他认为这是一种慢性失败：挑选三四个聚焦的AI项目并给予充足资金，是关于“钱花在哪”的决策；而配给制则是对已经选定的项目故意投入不足。把最有生产力的技术限量供应给员工，等于慢慢输掉竞争。 克里希纳提出，企业AI的经济账取决于三个问题。第一，成本由什么驱动？答案是工程实现。写代码的AI智能体每输出一个词，大约要读取600个词，且大部分是重复读取企业自己的文档。商业互联网当年也遇到同样问题，最终靠停止重复传输数据而变得可负担。IBM与红帽、谷歌合作的开源项目采用缓存技术，把AI已读过的内容存在本地，请求直接发给持有缓存的机器。在IBM自己的系统上，98%的所需内容已在缓存中，芯片得以专注于新任务；配合并行优化，同等硬件处理了7倍的工作量。这套软件已开源，任何公司今天就能用。 第二，谁定价格？各大AI供应商现在都对重复读取数据提供折扣，但这折扣是别人的平台、别人定的价，随时可以修改；而把同样的效率做进自己运营的基础设施，才是自己拥有的成本结构。多数AI预算默认“严肃的结果需要最新模型配最新芯片”，但这两点都不成立。能力很强的开放权重模型已经可用，且能跑在自己控制的基础设施上。IBM近期测试中，用开放权重模型同时驱动3000个AI智能体，其中一项量子纠错硬件设计任务，开放模型以26美元推理成本实现了52倍设计加速；领先的闭源模型给出更好的设计——204倍加速，但花费299美元，即便算上缓存数据折扣，成本仍是前者的10倍以上。结论不是所有工作都该用开放模型：探索数百个早期候选方案时，26美元的运行是合适工具；最终敲定芯片设计时，就付那299美元。哪项工作跑在哪里、按谁的条款跑，企业应当自己决定。 第三，你到底在花什么钱？企业习惯用可计数的单位来治理技术：一台服务器、一个许可证、一个席位、一个CPU小时。即便是波动的云支出，也有清晰的链条可循。但AI的消费单位——token、推理调用——对大多数财务团队来说仍是黑箱，这正是配给制流行的深层原因：看不清，就只能限量。克里希纳的言下之意是，与其限量，不如把成本结构看清楚、把工程优化做扎实，让AI真正跑起来。