众力资讯网

最快AI芯片公司,要给自己拆发动机 一家以"快"立身的AI芯片公司,正计划把身上

最快AI芯片公司,要给自己拆发动机
一家以"快"立身的AI芯片公司,正计划把身上最快的部分换掉——听着像给跑车拆发动机,但这是真的。⚡
据韩国半导体媒体ZDNet Korea 10月21日报道,被英伟达以约200亿美元拿下核心资产的Groq,计划在下一代LPU推理芯片上弃用SRAM,改用3D堆叠DRAM。
现役Groq LPU有多猛:单芯片500MB SRAM,带宽高达150TB/s;机架256颗,合计128GB SRAM、640TB/s互联带宽,8月已全面量产。经第三方机构Artificial Analysis实测,它在英伟达NVL72服务器上跑出过Gemma 4 31B模型3400 tokens/秒的成绩。
但SRAM的死穴是:快,却小而贵。模型越做越大,芯片里装不下,数据就得来回搬,速度优势被吃掉。DRAM容量大得多,代价是慢一些。
新方案是用TSV硅穿孔技术把DRAM一层层垂直叠起来,思路类似HBM显存:容量成倍涨,面积更小、能效更好。这步棋业内看得很清楚:宁可慢一点,也要装得下。
速度和容量二选一,英伟达用200亿美元收购给出了答案。在参数一路暴涨的当下,这种权衡正成为AI芯片的新常态——如果是你,会怎么选?