众力资讯网

国产卡什么时候能取代英伟达

1.国产AI芯片和NV是两个带差的差距。但中国的设计不是问题,卡在了生产制程。
2.大模型的核心是训练,再是推理应用。目前能训练出最新的模型、快速高效训练出最新的模型,只能用B300以上型号(NV的最新发布也是这样)。国内没有对标,如华为来讲4-8张卡,性价比太低。
3.应用侧国产卡逐步追赶上来了,很简单逻辑就是对标H20或A800,国产芯片基本OK,甚至是1.5-2倍性能。我们感受的都是推理侧的算力,直接就是应用。但大厂及模型公司要追赶的还是模型最优,所以训练需求还是最大。推理相比训练来讲不少,但你可以理解性能比1:4吧。
4.价格的决定,是生产制程。国内的生产制程可以稳定在12nm,6-7nm还在爬坡(全球只有台积电和三星OK)。所以国家这两年在大力推进先进封装等企业,也是为了摆脱制程卡脖子。中芯国际、华宏等都在奋起直追,但需要时间,更需要技术/良率的突破。再有2-3年是OK的。至少保证中国有芯片可用。
5.这个比较反直觉,但确实性能越好的卡做推理性价比越高,因为单卡性能是一方面,卡间互联、算子优化是另一方面,现在国产卡赶超的是单卡性能,当然超节点也在解决卡互联的问题,但就经济效益来比还没法跟 nv 相提并论,只能说能用能替代了,但成本还是要高而且高不少,就超节点,目前有规模化经济效益的也只有昇腾一家,但昇腾也没法跟 nv 比,比如单卡可能能做到 nv 的 90%, 做成大规模集群比如性能可能就只有 30% 了
6.所以目前就是谁能稳定拿到 B300,谁就牛逼,谁的想象空间就更大