山姆·奥特曼:你电脑里的内存是“非常糟糕”的全局分配
切奇品脱播客10月30日播出,开放人工智能公司首席执行官山姆·奥特曼称,把全球有限的动态随机存储器放在每个人电脑里“利用率仅5%”,从全局看“非常糟糕”。他主张在供应极度紧张时,内存应集中到数据中心实现全天候高利用,而非闲置于个人电脑。
图:山姆·奥特曼做客切奇品脱播客。
他把矛头指向本地推理热:不少人认为开源模型已可在本地跑、数据中心不再需要。奥特曼反驳称,平均每台个人电脑的存储器大多时间闲置,而同一块存储器在云端可服务数千请求。访谈中他坦言破解短缺“目前进展不佳”,并称“无形之手”暂时失灵。
争议
个人电脑内存并非只为跑模型,还承载系统、浏览器与游戏;而供应紧张主要由数据中心扩张推高,记忆体厂商已优先供应服务器。开放人工智能自身在2025年8月发布的可本地运行模型也曾宣传仅需16吉字节即可跑,立场被批自相矛盾。
若未来内存产能大幅提升或价格回落,或本地模型通过量化显著降需,所谓“更高效在云端”的前提将被削弱。