众力资讯网

#XHEART芯片大模型算力700Tops#X7 Ultra是新芯航途发布的面向车端大模型、智能驾驶计算的芯片,不是手机SoC,也不能只把它理解为一颗普通座舱芯片。#XHEART发布大模型芯片# 新芯航途由Momenta芯片项目独立拆分而来。他们判断,智能驾驶正从多个分工明确的小模型,走向端到端大模型,计算平台也需要跟 ​

XHEART芯片大模型算力700TopsX7 Ultra是新芯航途发布的面向车端大模型、智能驾驶计算的芯片,不是手机SoC,也不能只把它理解为一颗普通座舱芯片。XHEART发布大模型芯片

新芯航途由Momenta芯片项目独立拆分而来。他们判断,智能驾驶正从多个分工明确的小模型,走向端到端大模型,计算平台也需要跟着改变。

这类模型对芯片提出的要求,不仅是“能做多少次乘加”,还包括:

- 中间数据能否及时送到计算单元。- 复杂算子会不会拖慢整个推理流程。- 更大的模型能否装得下、跑得动。- 在车端功耗和散热条件下,能否持续稳定运行。

核心参数:700TOPS,同时支持FP16/FP32高精度向量计算。

NPU架构:重点减少数据搬运,X7 Ultra采用超大核NPU架构。尽量将数据交互放在核内完成,并将核内互联能力提升至TB/s量级。

大模型推理时,计算单元不一定始终忙碌。数据搬运、不同计算模块之间的同步,都可能让它等待。芯片标称算力很高,实际模型却未必跑得足够快。超大核设计的目标,就是减少跨核通信和同步开销,提高计算单元的有效工作时间。

多级缓存:让数据尽量留在芯片内部,X7 Ultra采用大容量、高并发的多级缓存架构,目标是降低推理时延和功耗。模型计算过程中,一些数据需要反复使用。如果每次都去外部内存取,既费时间,也增加能耗;缓存设计得更合理,就能减少这种往返。

有哪些又是- 内存带宽消耗下降80%。- 能效提升100%。- 特定测试下计算利用率达到98.7%。

X7Ultra针对Transformer模型中的关键算子进行了硬件优化,包括:- LayerNorm:层归一化。- Softmax:常用于注意力权重计算。- Transpose:张量转置、数据布局变换。

专用加速引擎的价值,是优化整个模型的运行过程,而不是只让某一类算子跑得很快。通过架构与工具链协同,可部署模型参数量实现10倍提升。

X7 Ultra实现“中国首发量产Armv9车规级CPU”- CPU性能提升20%。- CPU能效提升10%。- 采用大集群架构,改善多核协同与L3缓存访问。- 集成SVE2向量处理引擎。

NPU负责主要的神经网络计算,CPU则需要承担系统调度、数据处理、部分算法及其他软件任务。CPU跟不上,整个系统也可能受影响。

SVE2有助于向量化计算,包括部分信号处理任务。

量产进度:X7系列:- 量产8个月,累计出货超过20万颗。- 已搭载10款量产车型。- 获得超过40款车型订单。- 基于双X7的L3/L4计算平台已获得多个车型项目定点。