好,今晚聊聊Scaling Law的边际递减到底意味着什么。
先解释一下背景:Scaling Law说的是「模型越大、数据越多、算力越强,模型就越聪明」。过去几年整个AI行业的狂奔就是建立在这个信念上的——只要我砸足够多的GPU,AGI就一定会出现。
但最近越来越多信号表明,Scaling Law在碰到瓶颈。GPT-5的成本涨了5倍,能力提升可能只有20-30%。不只是OpenAI,Google和Anthropic也遇到类似问题。
如果Scaling Law真的在减速,那行业会发生几件事:
第一,模型层的竞争会从「谁更大」变成「谁更聪明地用有限算力」。蒸馏、稀疏、混合专家这些效率技术会比堆GPU更重要。
第二,应用层会爆发。因为模型层不再一年提升10倍了,应用开发者可以放心地在当前模型能力上建东西,不用担心下个月模型一升级你的产品就被碾压。
第三,数据的重要性会更加突出。算力堆不出更聪明的模型时,更好的数据质量就成了唯一的差异化。这也是为什么我一直在说数据采集这件事——具身智能、AI制药、所有「AI+物理世界」的赛道,数据的壁垒比模型的壁垒更深。
说实话,Scaling Law减速对整个行业来说不是坏事。它逼着大家从「烧钱堆算力」转向「用巧劲做应用」。泡沫会挤掉,真正有价值的东西会留下来。
你怎么看?如果GPT-5的提升不如预期,会影响你对AI的信心吗?
AI ScalingLaw GPT5 行业判断