众力资讯网

无论你的模型成本有多低、性能有多优异,当面对大规模商用时,你都需要有足够多的算力

无论你的模型成本有多低、性能有多优异,当面对大规模商用时,你都需要有足够多的算力,来满足用户海量的token需求。
无论是API调用,还是本地化部署,在算力硬件这一关,谁都逃不过去。
训练成本可以省,推理成本可以低,但模型性能军备竞赛的客观现实,必然导致算力规模的持续扩张。
这就是杰文斯悖论:越省钱、越高效的技术普及开,整个行业反而会花掉更多的钱,消耗掉更多的资源,快速扩张规模,直至需求最终饱和