AI价格战打到最后,可能跟当年的云计算很像
中科曙光最近做Token加速,我第一反应就是想到了十几年前的云计算。曙光现在强调算力利用率、网络效率和缓存复用,这些东西正在变成AI价格战背后的关键。
OpenAI收入还在高速增长,但Token价格却不断往下走。
这种剧情互联网行业其实见过很多次。云存储越来越便宜、带宽越来越便宜、CDN越来越便宜,但厂商没有因此不赚钱,而是逼着后台把每一台机器用得更狠。
AI可能也一样。
模型价格一降,用户量上来;用户量一上来,后台必须提高GPU利用率、减少重复计算、降低网络等待,不然收入涨了,成本也一起涨。
中科曙光的ParaCache可以复用大模型中间计算结果,scaleFabric又在降低算力集群里的通信等待。
所以别小看这些基础设施优化。价格战真正打到最后,拼的往往不是谁敢降价,而是谁降完价还能把账算过来。
中科曙光 互联网 AI价格战 Token 云计算
