Sam Altman称本地运行AI浪费内存

OpenAI首席执行官萨姆·奥尔特曼（Sam Altman）近日在一档播客节目中公开表达了对“本地运行AI模型”这一趋势的质疑。他在接受Cheeky Pint播客采访时表示，在内存供应极度紧张的当下，把AI模型放在本地设备上运行，等于让全球本就有限的DRAM（动态随机存取内存）被大量闲置浪费。他直言：“如果你面对的是一个供应严重受限的环境，你当然希望云端利用率最大化。但很多人的直觉恰恰相反。” 奥尔特曼的逻辑并不复杂：全球内存产能短期内难以大幅扩张，而本地推理意味着每台电脑都要囤积一批内存，却只有约5%的时间在用。他算了一笔全局账——把全世界有限的DRAM分散到个人电脑里、大部分时间闲置，从资源分配角度看“相当糟糕”。这番言论的背景是愈演愈烈的内存短缺危机。当主持人问及解决方案进展如何时，奥尔特曼只回了一个词：“糟糕。”他预计短缺将持续到2030年，并认为市场“看不见的手”这次失灵了——内存厂商因为历史上多次因扩产过度而濒临破产，如今宁愿保守也不愿贸然建厂，结果供需缺口迟迟无法弥合。 不过，奥尔特曼的立场显然带有自身商业利益的考量。本地AI不仅隐私性更好，还让用户和企业可以绕开云端订阅付费，这对OpenAI等云端AI提供商构成直接威胁。有意思的是，OpenAI的合作伙伴英伟达和微软却在大力推广高内存容量的AI PC，英伟达的RTX Spark系列笔记本便是主打本地AI场景，但目前价格高昂，短期内难以进入主流消费市场。奥尔特曼还驳斥了“开源模型普及就能解决本地推理问题”的说法，认为即便模型能在个人电脑上跑起来，也不代表数据中心里的大量基础设施就不再需要。对跨境电商卖家和AI工具用户而言，这场争论的实际影响在于：短期内云端AI仍是性价比最高的选择，而主打本地AI的硬件设备要想真正普及，恐怕还得等内存价格降下来。