X7 Ultra大模型芯片,重点解决了“把算力用起来”的问题,700 TOPS的算力,居然能做到98.7%的计算利用率。
早几年智驾芯片有个挺明显的问题,就是大家都在拼TOPS,动不动几百上千,但算力标得高,不代表模型实际跑起来就能全部用上。
尤其现在智驾都开始往大模型方向走,Transformer架构对内存带宽、数据调度的要求很高。很多时候不是算力不够,而是数据跟不上,计算单元只能干等着。
所以这次X7 Ultra比较有意思的地方,是采用了超大核NPU架构,重点解决算力利用率的问题。按照官方公布的数据,量产模型实测计算利用率达到98.7%,相当模型性能条件下,内存带宽消耗降低80%,推理能效提升100%。
有了这堆效率的提升,momenta确实可以开始考虑L3、L4的需求,所以在高级的方案上,电源、通信、传感器接入都做了冗余设计。
这其实就是“软硬件一体化”的思路。算法需要什么样的计算方式、数据怎么流动、哪些地方最吃带宽,芯片在设计阶段就得考虑进去。这样做的好处,不只是让算力利用率更高,而是同样的功耗和硬件成本,有机会跑更复杂的模型,也能给后续算法升级留出空间。
这颗芯片已经可以规模量产了,台积电代工,8个月就上车了20万台,还有40+款车型的订单,刚开始这样的成绩很可以了。
XHEART正式发布大模型芯片X7Ultra大v聊车








