众力资讯网

聊聊汽车智驾芯片的算力稀疏通胀,现在宣传口径的算力已经一塌糊涂了。 算力跟晶体管数量,接近线性关系的正相关。 AI 模型中的大量计算是矩阵乘加运算,许多运算可以同时进行。 理论峰值算力 = 并行运算单元数量 × 每个单元每周期的运算量 × 运行频率。 如果两款芯片采用相近的运算单元设计、相同的 ​

聊聊汽车智驾芯片的算力稀疏通胀,现在宣传口径的算力已经一塌糊涂了。

算力跟晶体管数量,接近线性关系的正相关。AI 模型中的大量计算是矩阵乘加运算,许多运算可以同时进行。理论峰值算力 = 并行运算单元数量 × 每个单元每周期的运算量 × 运行频率。如果两款芯片采用相近的运算单元设计、相同的数据精度,且运行频率相近,那么运算单元数量增加一倍,理论峰值算力通常也会接近增加一倍。

各家的真实稠密算力,其实没多少差距。智驾芯片,除了华为,都是台积电代工,这一代基本也都是N5-N7节点,考虑到良率和成本,大体都在half-mask以内,也就是400mm2左右。同样的制程条件下,类似的最大芯片面积,晶体管数量不会差出来多少。

但宣传口径上,都是稀疏算力,这个口径就可大可小了。稀疏算力在NN阶段可以提升一定效率,但,目前各家智驾端到端算法也好,VLA算法也好,世界模型算法也好,都不怎么吃稀疏算力。余凯虽然蹦出来说了下稀疏和稠密的区别,但也没说自家算法主要吃稠密。

早期大家比较默契的2:1的照抄英伟达的稀疏比,但从理想开始,稀疏比变成了4:1,看芯片面积大体可以算出来晶体管数量,也就大体可以算出来单元数量,外加主频可以通过类似芯片推测。1280TOPS实际大概也就是350-400T。所以Momenta那颗3000T算力,也一定是稀疏算力,具体稀疏比多少,难说。

当然,另一个问题是美国的限制。BIS的限制上限是TPP<4800,折合下来就是300T FP16、600T FP8/INT8。超过这个,得单独找BIS申请,有的可能申请下来了,有的可能申请不下来。为了合规,从一开始设计目标,可能就要先贴着线做。2027年这个会放宽一点,但也到不了3000T可以直接代工的程度。

退一万步讲,国内智驾芯片,下一代最多大体也就是1200T级别稠密算力顶天了。即使是特斯拉AI5,用上了台积电N3节点,拿NPU代替了一些原来ISP的功能,最大化NPU面积,也就做到了1500-2000T级别稠密INT8/FP8算力。国内的智驾芯片还得保留一点通用性,可能也得牺牲一点算力上的密度。所以3000T,稀疏比就肯定是1:4往上了——因为稀疏比都是偶数。

以及,据我行业内聊了聊,大家下一代大算力,单芯片/单Die大体也就是600-800T稠密这个级别,且还得看BIS脸色。我也跟业内朋友聊过,BIS脸色还有点不太定,不同执行人员的策略也有所不一样。类似地平线这种要给行业供货的,卡一下导致设计改动,或者发货延迟,对生意影响巨大。辉羲智能、黑芝麻都因为被BIS卡丢了定点,丢了单。车企那边好一点,不需要给第三方供货,节奏可以快一点。

当然,微观上大家有很多小巧思,来提升算力利用效率。比如华为昇腾为了提升通用性,用的是SIMD+SIMT的架构,付出了一点点算力密度下降的代价。华为做这个,主要是要作更通用的计算。

车那边,如果考虑好了技术路线,可以更专一点。比如理想为了提升调度能力,用了数据流+大单NPU+SiFive的Risc-V core做调度。地平线每代BPU的微架构都有迭代——他们还在BPU的小核里塞进去了RISC-V core,让BPU理论上对算子的适配能力更丰富。

但是算力利用效率是利用效率的事,跟算力不一样,这俩不要混淆。

所以,到现在,智驾算力其实大家都是宣传口径。这个从一开始就被英伟达带坏了,稀疏算力通胀年代,除了华为,宣传上大家都是稀疏,只有更夸张,没有最夸张。某种意义上也是现实情况的无奈,毕竟想要让车上算力大起来,用台积电,找BIS当然是最现实的选择。

但最后可能还得等国产先进制程起来。

PS:不过按现在昇腾的价格,一套ADS下来的报价,也是做慈善呢~