小米玄戒o100端侧ai加速芯片发布 研究了一下小米玄戒 O100，这颗芯片比较有意思的地方，不是单纯堆 NPU 算力，而是直接解决 AI 芯片越来越明显的 Memory Wall（内存墙）。

现在 NPU 的 TOPS 越来越高，但模型权重、Activation、KV Cache 都要从内存搬进计算阵列，内存带宽跟不上，再高的算力也只能等数据。

O100 的思路是把计算和存储直接拉近。按照公开信息，它采用 Wafer-on-Wafer 3D 堆叠 + Hybrid Bonding，把两层高速 AI 内存与 NPU 计算层垂直集成，公布的带宽达到 1.22TB/s。

我觉得这里最有意思的是它的内存子系统。Hybrid Bonding 并不是说 NPU 可以直接“读取 DRAM 晶体管”，中间仍然需要 Memory Controller、地址映射、Bank 管理、ECC、Buffer 和片上互联。

传统 LPDDR 是通过 Memory Controller + PHY，用相对有限的高速 I/O 去访问外部 DRAM；而这种 3D 架构可以利用大量超短的垂直互联，把内存接口做得非常宽。合理推测，计算 Die 上也会采用多个分布式 Memory Controller/Interface Slice，再通过 NoC 把数据送到不同 NPU Tile，而不是把海量信号全部拉到一个集中的内存控制器。

当然，具体 Controller 和 NoC 架构小米目前并没有公开。

所以 O100 真正值得看的不是一个 TOPS 数字，而是它在尝试解决一个更底层的问题：

当 AI 算力已经足够高以后，怎么把数据更快、更省电地喂给计算单元。