就在一年多前,如果你要跑完十本英文原版的行业财报,做繁杂的数据提取和交叉对比,调用高阶API的成本大概在两三百块。稍微跑点高并发的任务,一天的账单绝对能上千。
这对于普通开发者或者个人玩家来说,是一笔需要咬牙切齿算计的巨款。
但是今天呢,用最新的国产API跑完全相同的十本财报任务,成本被硬生生压缩到了几毛钱。
这绝对跨越了打折的范畴,几百块到几毛钱的真实账单落差,彻底把智能的门槛踩成了粉末。
我原本以为,面对这种打法,OpenAI估计要急得跳脚。人家花了几十亿美金砸出来的前沿模型,转头就被别人用极低的成本蒸馏拿走,这生意似乎根本没法做。
带着看热闹的心态,我翻了萨姆·奥特曼在《Invest Like the Best》里的最新访谈。
主持人把开源模型和蒸馏这个尖锐问题抛给他,他表现得极其平静。
他大方承认,“开源模型在这个世界上一定有重要的一席之地,有人想要自己掌控权重,有人想按自己的需求去改模型”。
他甚至说OpenAI自己也在做蒸馏,这其实就是他们开发更小更便宜模型的方式。
他觉得世界上本来就会有又好又便宜的模型,这再正常不过了。他们的目标就是在这个最优曲线上,提供智能和价格的最优选择。
可能有人会想,他凭什么不慌。烧了那么多钱,被别人抄底价格战,换谁都得血本无归。
我们可能都在用老旧的软件思维来看待大模型这门生意,大家总是死死盯着那高昂的研发和训练成本。
奥特曼算的是一笔完全不同的规模账。
他直接交了底,说OpenAI未来的算力规划里,绝大部分算力其实是拿来给客户做推理的,训练只占很少一部分。







