谷歌云于美西时间11月9日发布了两台新的TPU产品——TPU 8tx 和 TPU 8i Max，并且继续加大对于自主研发的人工智能计算能力的投资力度，在数据中心领域里同英伟达进行竞争。
图注：谷歌TPU 8tx、8i Max板卡
人们已经习惯于使用英伟达的GPU+ CUDA来实现大模型训练和推断，并且认为没有其他可以选择的方法了。谷歌的TPU路线则是另辟蹊径，在不跟风的基础上为云计算公司以及政府客户提供服务。
图注：TPU 8tx硬件板卡，主打机密计算
TPU 8tx 主要面向硬件级别的秘密计算，在敏感的数据和涉及到保密的应用中对模型进行微调、推理，并且可以和AMD最新的第五代EPYC处理器一起部署来保证数据隔离的同时降低推理延时。另外一款TPU 8i Max使用了双芯封装的方式，HBM 内存带宽以及片内缓存都翻番了，主要为了适应很长上下文的大模型以及多个实体这样的高带宽的需求。
图注：TPU 8i Max双芯封装，HBM带宽翻倍
据谷歌官方发布的消息显示，到目前为止TPU产品的用户数已经超过了一百多家公司。近几年来，云服务提供商自己开发出的芯片也成了一个潮流，在此背景下，谷歌、AWS和微软等公司都开始着手于自己的计算平台上做相应的硬件产品的研制工作，并以此来减小对于某一特定厂家产品的依赖程度从而保证整个产业链条的安全性。
图注：谷歌TPU智算集群
只有一部分硬件性能追赶上了，并且最困难的地方就是软件生态环境了。经过多年的积累和发展之后，CUDA 工具链、开源库以及开发者的社区已经形成了很强的力量壁垒。TPU 的性能参数很优秀但是开发者迁移的成本高而且配套生态系统不健全所以它与 CUDA 之间还有很大的差别。
图注：英伟达H100集群，CUDA是核心壁垒
一方面成熟的生态系统已经占据了市场的大部分份额，另一方面云服务提供商也在不断地进行自主研发来突破自己。硬件上的差距可以缩小，但是软件生态系统上的障碍却很难逾越。
图注：头部云厂商自研AI芯片
你觉得用TPU这样的自研计算能力来分食英伟大的大单子是不是可能的事情呢？
#谷歌TPU#​#ai芯片##算力竞争##半导体#​​​