众力资讯网

不抢HBM了,高通把内存翻过来盖在芯片上


11 月 2 日,高通在圣迭戈实验室把一颗两层堆叠的样品通了电,读写正常,近存计算也跑起来了。这事的奇怪之处在方向:全世界都在排队抢 HBM,高通反过来把计算单元压到了内存堆叠底下。
这次验证的是一颗半成品高通自己给的说法是 First Silicon Proof of Life,硅片活着。样品只有两层 DRAM,量产设计是四层。测试在自动测试机(ATE)上做,同一颗样品先当普通 LPDDR5X 器件测一遍,再切到 HBC 模式测一遍,两套数据对着看。搭载它的 AI250 加速卡,计划 2027 年上半年出样。
实验室里跑通,和机房里能卖,中间隔着可靠性、良率、整机适配三段路。高通这次没公布绝对带宽数字,也没给功耗曲线。

HBM 是把内存搬近,HBC 是把计算搬下去HBM 的结构大家都熟:一堆 DRAM 晶圆叠在 base die 上,再通过超宽总线接回主芯片,中间要靠 CoWoS、EMIB 这类先进封装。带宽是上去了,代价是封装贵、走线长、每比特能耗高。
HBC 换了受力点。堆叠最底下那颗不再是 base die,换成了一颗小计算 die,专门干吃带宽的活——矩阵乘、激活、注意力里最耗数据搬运的那部分就地做完,只把结果送回旁边的主芯片。搬运距离从厘米级缩到微米级,两边之间的互连需求跟着掉下来,普通的 2D 有机基板就够接。
说白了,HBM 花大钱买一条更宽的通道,HBC 花力气把通道本身省掉。省下来的不只是钱,还有电:数据中心现在最贵的账单不是芯片采购,是每度电跑出多少 token。

三个数字得拆开看中文稿里传得最广的是 133 TB/s。这是高通 6 月路线图里给 AI250 定的有效带宽口径,相当于 AI200(LPDDR5X)的 18 倍。但这次验证高通没公布绝对值,只说测出来是外部 LPDDR5X 的 18 倍。两个 18 倍不是一回事,一个是设计目标,一个是实测口径。
第二个数字是每瓦带宽,超过 HBM4 规格值的 5 倍。听着漂亮,可高通原来的目标是 6 倍,这次没够着。
第三个数字是层数。样品两层,量产四层。带宽靠层数一层层堆,两层样品证明的是方向对,离性能达标还有距离。
133 TB/s 换成体感是什么概念:一个 700 亿参数的模型按 FP8 存,权重大约 70GB,理论上每秒能把整套权重过一千九百遍。当然这只是纸面上限,实际会被调度、通信和显存容量吃掉大半,但推理卡拼的就是这个上限。

它在 SRAM 和 HBM 之间插了一档AI 芯片的内存方案其实只有三条路,各有各的贵法。
片内 SRAM 最快,延迟低到纳秒级,可容量上不去。一颗芯片塞几百 MB 已经是极限,模型权重放不下,只能靠外面再挂内存。Cerebras 那种把整片晶圆当芯片的做法,本质是拿面积换 SRAM 容量,代价是良率和功耗。
HBM 站在另一头。容量大、带宽高、生态成熟,代价是先进封装和一条被三家厂牢牢捏着的供应链。今年抢 HBM 的场面,排队的不只是买家,还有愿意加价锁产能的云厂商。
HBC 想在中间插一档:带宽朝 HBM 看,容量比 SRAM 大几个数量级,封装退回到 2D 有机基板,成本结构接近普通芯片。这条路能不能站住,取决于四层堆叠量产后,每瓦带宽和散热能不能同时兑现。
为什么用 LPDDR 颗粒,不用 HBM 颗粒HBM 用的是专门减薄的高性能 DRAM die,产线少、良率难、价格硬。HBC 直接拿 LPDDR5X 的晶圆往上叠,供应面宽得多,三星、SK 海力士、美光都能供,单堆容量按高通的规划还能超过现在的 HBM4。
代价是单层带宽天生不如 HBM,得靠层数和并行度补回来。另一头的账更现实:DDR5 价格已经连涨九个月,LPDDR 又被手机和服务器两头抢,HBC 真要上量,抢的是同一批产能。高通把 AI200 做到单卡 768GB,用的就是 LPDDR5X,等于提前把这条供应关系跑了一遍。
没人愿多说的那一关是散热堆叠底下那颗 die 是活的,热流密度比 HBM 的 base die 高一档,还被内存层层压在上面,热往哪儿走是个问题。高通说验证里包含了热行为测试,没给数据。
封装同样难。TSV 打孔、晶圆对晶圆键合,这些工序 HBM 磨了十年,高通是新手上路。它省掉的是先进封装里的高密度互连,堆叠本身一步没少。层数往上加,中间的晶圆既发热又挡散热,热和应力要一起解决。
产业链动了,产品还没影快科技的报道提到,三星和 SK 海力士已经主动提出跟高通一起推 HBC 商业化,台积电负责整合封装。内存厂愿意配合不奇怪,这条路卖的是他们最熟的 LPDDR 晶圆,不必去挤 HBM 那几条紧俏产线。
高通这边的短板在别处。数据中心不是它的主场,AI200 今年才开始出货,客户名单和软件栈都还薄。参数再好看,跑不动主流的训练框架,机房不会为它改架构。
顺带一句,高通说过这套堆叠以后也会下放到骁龙。真走到那一步,手机端的端侧推理会先受益,那才是它最熟的地盘。
我的判断短期内 HBM 的地位不会动摇。训练看的是容量和成熟度,HBM4 还在往前迭代,生态、工具链、供货合同全在那一边。
推理侧会分流。推理吃带宽和每瓦成本,恰好是 HBC 想解决的两件事。中间这两年时间差,也正好够 HBM 阵营把 HBM4E 铺开、把价格谈下来。如果 2027 年 AI250 出样时,四层堆叠能把 5 倍做到 6 倍、把散热压住,HBM 会第一次碰到一个不讲更宽、而讲更近的对手。
对国产内存来说,这条路的意味也直接:HBM 的门槛在堆叠和先进封装,LPDDR 的门槛低一档,国内已经有量产基础。高通把 LPDDR 推上数据中心,等于给这条产线多开了一扇门,只是门后面的封装设备,仍然不在自己手里。
到那时候,机房里争的就不是买几张卡,而是每瓦能跑多少 token。

最后一个问题留给你们:如果推理卡的价格真能下来三成,你会自己买机器,还是继续按小时租云?