技术博文：AI 芯片架构：主流技术路线全景解析地址：www.jacobpeake.com/ai-chip-architectures

对大模型应用场景来说，不同 AI 芯片架构的核心区别可以归结为：数据存在哪里、怎样移动、由什么单元计算，以及多颗芯片如何连接成大规模系统。

这是一篇技术密度很高的 AI 芯片架构全景综述。作者系统比较了六条已经获得实际部署的路线：

🌟NVIDIA GPU：以可编程性为核心，通过 CUDA、海量线程、Tensor Core、多层内存和 NVLink/NVSwitch 隐藏延迟。最大优势不只是芯片，而是积累了近二十年的软件、开发者和优化经验。🌟Google TPU：围绕大型脉动阵列设计，让 XLA 编译器提前安排计算和数据移动。它牺牲部分通用性，换取矩阵计算的效率，并通过数千颗芯片组成 TPU Pod。🌟AMD Instinct GPU：计算单元本身相对保守，创新重点放在 chiplet 封装、HBM 容量和开放软件生态。硬件竞争力已经很强，但 ROCm 和前沿算子的优化成熟度仍落后于 CUDA。🌟Cerebras WSE：直接使用整片晶圆，避免把晶圆切成芯片后再用昂贵互连重新连接。其海量片上 SRAM 极适合低批量、低延迟推理，但容量、成本、外部通信和软件生态构成明显边界。🌟AWS Trainium：采用类似 TPU 的“脉动阵列＋编译器调度”路线，真正的竞争力来自 AWS 对芯片、Nitro 网络、云服务和定价的垂直整合。它主要以总体经济性而非单芯片峰值参数竞争。🌟Groq LPU：把缓存、动态调度和仲裁机制全部移除，由编译器精确安排每一个周期，甚至把芯片间通信也静态调度。它在单用户、batch 1 的生成延迟上极有优势，但 SRAM 容量有限，需要大量芯片共同容纳模型，吞吐成本并不占优。