Sam Altman称电脑RAM闲置浪费资源,AI运算应集中云端处理
4 天前 7 阅读来源:unwire.hk
AI 中文改写
原文为英文,由 AI 改写为中文报道,内容完整。如需参考原文请点击下方链接
OpenAI首席执行官Sam Altman在10月29日播出的Cheeky Pint播客节目中,罕见地把话题对准了硬件资源分配。他直言,把大量DRAM(动态随机存取内存)塞进使用率偏低的个人电脑,并不是有效的资源分配方式,主张AI运算应更集中到云端数据中心,以提升有限内存的利用率。这番话让“本地跑AI还是云端跑AI”的路线之争再次被摆上台面。
Altman的论据核心是一个数字:个人电脑里的内存只有约5%的时间真正被使用。他提到,部分用户相信随着开源模型普及,未来可以直接在PC上执行AI推理,从而减少对大型数据中心的依赖,但在全球内存供应吃紧的当下,这种想法忽略了硬件资源的整体利用率。他的逻辑是,同样一批珍贵的内存,放在云端可以让不同用户轮流使用,放在个人电脑里则大部分时间闲置。这一判断并非孤立的声音,韩国内存厂商SK海力士在10月28日公布第三季度业绩时表示,AI基建投资持续加码、先进制程难度高、新建产能周期长,内存供不应求的局面可能延续到2030年;公司还披露已与包括大型云服务商在内的14个主要客户签订长期协议,涉及订单量相当于其2027年和2028年总产能的一半以上。大型买家提前锁定供应的动作,客观上为Altman“内存该集中使用”的说法提供了注脚。
不过,5%这个数字并不足以证明云端方案全面占优。本地运行AI的价值在于数据不必每次推理都上传到第三方服务器,断网时也能继续使用,对隐私敏感或有离线需求的用户来说仍是刚需;云端平台的优势则是把算力和内存资源在大量用户之间共享,摊薄单位成本。实际选择还取决于模型大小、使用频率、成本预算和合规要求。对跨境电商卖家和出海创业者而言,这意味着短期内不必急着为“本地AI”囤积高内存硬件,云端API仍是性价比更高的主力方案;但涉及客户数据、产品设计图等敏感信息时,本地部署的小模型仍有不可替代的位置。内存涨价的传导效应也值得留意——若供应紧张持续到2030年,PC和服务器硬件的采购成本大概率会被推高,提前规划IT预算比追逐单一技术路线更实际。
这篇文章对你有帮助吗?
觉得有用?分享给更多人
留言 · 0 条
暂无留言,来说两句吧
