HBM高带宽内存:这3个认知误区,很多人都忽略了吗?
有人可能注意到了这样的一个现象。
下半年,新款手机发布后,去年发布的老款,依旧没有明显降价,这在过往的经历中,大概是难以理解的。
但在当下,它是真的。
在原因分析中,一个被反复讨论的因素就是HBM,高带宽内存,需求迅猛,挤占了包括手机在内的消费电子用内存的产能。
很多人可能都听过HBM,高带宽内存,但可能也会有一些想当然的认知。
接下来,就聊一聊高带宽内存,看它都有哪些比较普遍的认知误区?
▲12层堆叠HBM3E展品,可以直观看到多层堆叠形态
“带宽高 ≠ 单线也更快。”
这可能是一个容易想当然的误解,认为HBM带宽高,是因为每一根线都跑得更快。
普通内存条DDR5,一条数据通路是64位宽。可以看成是一条64车道的高速路,车跑得再快,同时并排通过的车辆数是有上限的。
HBM走的是另一条路。一颗HBM堆栈内部,数据通路的总位宽是1024位,是DDR5单条通路的16倍。它不是非盯着让车跑更快,而是解决让同时并排跑更多的车。
那单条道的限速呢?如海力士HBM3E,每引脚速率是9.2Gbps。DDR5主流规格为5600~6400MT/s,JEDEC标准最高可达8800MT/s(DDR为双倍速率,6400MT/s等效单引脚6.4Gbps),二者单引脚传输速率处在同一个数量级,并不是HBM单根线远快于DDR5。
所以,差距跟宽度有关系。一条64车道的路,和一条1024车道的路,不言自明了吧。HBM3E单堆栈的带宽可以超过每秒1.18TB,而单通道DDR5的带宽在51.2GB/s左右,差距巨大靠的是并行,不是单点冲刺。
因此,HBM不把单引脚速率的极限当作主战场,它的带宽优势建立在超宽总线的并行架构上。
“HBM不能彻底推倒内存墙。”
内存墙,通俗理解就是,计算单元跑得太快,数据供给跟不上。芯片里的计算核心几分钟就能算完的东西,可能要在等数据从存储里搬过来的路上耗掉大部分时间。
HBM确实把带宽拉上去了,但它也不能彻底解决这墙的本身。
原因是,HBM依然是和计算芯片分开的,即便是在同一个封装里贴得很近,数据仍然需要从存储单元出发,经过硅通孔、中介层、物理接口,才能抵达计算那里。这段路可以缩短,可以加宽,但物理上的搬运过程还是在的。单纯升级HBM的堆叠层数和带宽规格,只能延缓瓶颈,无法消除架构底层的数据搬运损耗。
此外,还有芯片边缘的事。HBM的物理接口必须占用计算芯片边缘一整块无法压缩的硅片面积。一块芯片通常只有两条边能用来贴HBM,另外两条边要留给对外通信。这就是所谓的海岸线带宽,海岸线就那么长,能停靠的码头数量有物理上限。
海力士分层存储的技术思路,也说明了,单一类型的存储介质已经无法覆盖AI的全部负载需求。业界正在探索将GPU、HBM拆分封装,用光互连进行远距离互联的方案,恰恰说明HBM贴得再近,也有它受海岸线约束而够不着的上限。
所以,这大概就是,HBM是迄今最有效的缓解手段之一,但它并没有把墙整消失。
“并非层越高越强。”
把DRAM芯片垂直堆起来,确实是有了HBM的外形。但让这些堆起来的芯片能正常干活,靠的又是另一套完全不同的工程能力。
每堆一层,都要在芯片上打出成千上万个微米级的孔洞,填入铜,形成垂直的电连接,这就是TSV硅通孔。海力士在HBM3上每层使用的TSV数量超过8000个。任何一个孔位出问题,整层芯片就可能报废。TSV做不好,堆得越高,报废概率越高。
堆完之后,还有先进封装这一关。HBM必须通过硅中介层和计算芯片连在一起,2.5D封装(比如CoWoS)的产能和良率直接决定HBM能不能变成最终交付的产品。2026年11月初的行业信息显示,先进封装产能持续紧张,交付瓶颈甚至从封装本身,延伸到HBM、载板的供应。
10月底,有消息显示超大规模云客户正在评估,将原定的12层HBM方案并行改用8层规格,目的并不是单纯压缩成本,而是绕开12层组件严峻的良率与交付压力。12层堆叠需要把晶圆减薄到大约50微米,微裂纹、晶圆翘曲风险上升,散热也更难处理;8层方案单颗组件键合步骤更少,同样数量的DRAM晶圆,可以产出更多合格HBM。
如果HBM只是把普通内存堆高,客户就没必要主动降层。正因为堆得越高,封装、良率、散热的综合代价快速抬升,产业才不得不在容量密度和可量产交付之间做取舍。根据行业媒体测算,当前12层HBM3E堆叠良率并不高。
所以,HBM的门槛从来不只是存储芯片本身。TSV、薄晶圆键合、中介层、先进封装,每一个环节都会独立约束最终的产能与良率。
▲GPU芯片四周放置HBM堆栈的封装实物,贴在GPU边缘,对应海岸线带宽这个概念
“写在最后。”
所以,这样看来,HBM是用宽度换速度、用封装密度换带宽密度,并不是可以直接消除物理约束的存在。
它把内存墙往后推了一段距离,把瓶颈从总线太窄转移到了海岸线太短、堆叠太难、封装太挤。
当明白了这些之后,大概也就能够明白在芯片行业里,让一个东西变快变强,可能从来不是靠消除限制,而是靠换一个方式,和限制共处。
参考资料:
电子技术应用.CoWoS供应瓶颈持续 EMIB-T成AI芯片先进封装替代选项.2026年11月3日.