从TileLang到DeepSelect,一条完整的昇腾算子链路正在成型大家好,欢迎来到心眸AI笔记,我是jackli!今天是2026年10月1日,国庆快乐。下面带来今日资讯。
懒人总结DeepSeek于2026年9月30日集中开源6个面向华为昇腾平台的底层软件组件,覆盖算子开发、矩阵计算、MoE通信、注意力机制和TopK选择等关键环节。这批项目与此前面向英伟达平台的组件一一对应,目标是把在英伟达上验证过的整套算子方法论完整移植到国产芯片上。TileLang是根基,提供写高性能算子的DSL,本次新增昇腾950后端支持;TileKernels则基于它封装了数十个深度优化算子。DeepGEMM-Ascend性能数据亮眼:BF16达到硬件上限的99.8%,FP8为99.5%,FP4为98.3%。DeepEP-Ascend在昇腾950DT超节点外部Clos网络下,dispatch持续带宽达到物理载荷带宽上限的90%–95%。FlashMLA支撑DeepSeek-V4.1推理,昇腾950上Prefill达410 TFLOPS(理论峰值95%),Decoding达360 TFLOPS(83%)。DeepSelect聚焦TopK算子,服务于DSA稀疏注意力的token筛选和推理采样器。所有性能数据来自项目方公开测试或技术报告,算子微基准不能直接换算成端到端线上速度,实际部署需按自身模型和负载复测。正文一、这件事为什么值得关注2026年9月30日,DeepSeek团队做了一件在国产芯片生态里颇具分量的事:一口气开源了6个面向华为昇腾平台的底层软件组件。
这不是新模型,也不是开箱即用的应用。它们分布在算子开发、矩阵计算、MoE通信、注意力和TopK选择等环节,与此前面向英伟达平台的开源组件一一对应。换句话说,DeepSeek想让模型团队能在昇腾上继续搭建和优化训练、推理所需的软件栈。
有开发者评论指出,DeepSeek的意图不只是让模型跑在昇腾上,而是想把自己在英伟达平台上验证过的整套算子方法论完整地移植到国产芯片上,给更多AI芯片打个样。
下面逐一拆解这6个项目。
二、TileLang——一切的起点,国产芯片的“通用语言”定位:写高性能算子的领域专用语言(DSL)。
TileLang用Pythonic的语法写高性能算子,底层编译器构建在TVM之上。昇腾版本将昇腾Ascend C底层指令封装起来,让开发者用高级语言编程,同时不损失硬件性能。
后端支持列表:
NVIDIA CUDA(SM70到SM120)AMD ROCmApple Metal昇腾950(本次新增)需要说明的是,这个仓库属于tile-ai项目,不能算作DeepSeek单独维护的项目。
DeepSeek的野心在于:让TileLang成为更多AI芯片建立高可用软件生态的示范。
GitHub:https://github.com/tile-ai/tilelang
三、TileKernels——DeepSeek内部武器库公开定位:基于TileLang写的一组算子库,包含数十个深度优化算子,全部用TileLang实现。
覆盖的算子类型相当实用:
MoE路由:Top-k专家选择与打分量化:逐token/逐块/逐通道的FP8/FP4量化(融合了SwiGLU)Engram门控:融合RMSNorm,含前向反向流形超连接mHC:Sinkhorn归一化那一套RoPE旋转位置编码和随机数生成这些更像可复用的“算子积木”,覆盖MoE路由、量化、Engram、mHC、RoPE等模型常用环节。对于正在做昇腾迁移的团队来说,这批积木能省下不少从零造轮子的时间。
GitHub:https://github.com/deepseek-ai/TileKernels
四、DeepGEMM-Ascend——矩阵乘干到硬件上限的99.8%定位:负责矩阵乘等计算密集型工作,是DeepGEMM在英伟达平台上成名已久的GEMM库的昇腾移植版。
兼容性方面,API完全对齐——同一个包名、同一套接口、同一个开发流程,用户装好之后几乎无感切换。
功能支持:
BF16、FP8、FP4的GEMMMQA logitsMegaMoE算子实现方式上,它对昇腾的矩阵乘加原语(MAD)做了一层轻量抽象,隐藏分形矩阵布局、对齐约束、地址计算等细节,再叠加昇腾特有的稀疏数据加载和基于协程的流水线优化。
官方README披露的性能数据(昇腾950DT Dense GEMM):
精度格式 性能 BF16 硬件上限的99.8% FP8 99.5% FP4 98.3%
需要提醒的是,这是特定测试条件下的官方数据,不代表所有模型都能达到这个比例。
GitHub:https://github.com/deepseek-ai/DeepGEMM-Ascend
五、DeepEP-Ascend——128卡超节点的通信大动脉定位:面向MoE模型的专家并行通信,负责MoE训练推理中dispatch和combine的all-to-all操作。
兼容性上与英伟达版的公开Buffer API对齐。
Buffer体系分为:
核心:EPBuffer(支持FP8 dispatch和延迟epilogue)规划中:流水线并行的PPBuffer、面向上下文并行和数据并行的BucketBuffer、Engram远端内存访问技术栈上,Ascend C内核跑在HCCL/HCOMM、UBMEM和URMA这套昇腾通信原语之上,通过DeepJIT在运行时编译。
性能数据方面:
测试环境:昇腾950DT超节点的外部Clos网络条件:EP规模不超过32dispatch持续带宽:达到物理载荷带宽上限的90%–95%这个数字针对dispatch。仓库也说明,combine仍在优化中。
GitHub:https://github.com/deepseek-ai/DeepEP-Ascend
六、FlashMLA——长文本推理的稀疏注意力利器定位:DeepSeek的高性能注意力算子库,支撑着DeepSeek-V4.1模型在英伟达GPU和昇腾NPU上的推理。
核心技术是token级稀疏注意力(DeepSeek Sparse Attention,DSA):由Lightning Indexer先为每个query选出最值得关注的topk个token,注意力计算只在选中的token上进行。长上下文的计算量因此大幅下降。
昇腾版包含:
稀疏注意力的Prefill和Decoding算子搭配FP8/FP4格式的KV cacheV4.1每token 528字节,FP4版压缩到288字节性能数据(昇腾950):
阶段 最高性能 达到理论硬件峰值 Prefill 410 TFLOPS 95% Decoding 360 TFLOPS 83%
官方还放出了一篇讲算法和优化技巧的技术报告,链接如下: https://github.com/deepseek-ai/FlashMLA/blob/main/docs/20260930-ascend-prefill-deep-dive-zh.md
GitHub:https://github.com/deepseek-ai/FlashMLA
七、DeepSelect——把TopK这件“小事”做到极致定位:六个项目里最“小”的一个,干的活聚焦:高性能TopK算子。
它主要服务两个要害位置:
DSA稀疏注意力里Lightning Indexer的token筛选——每行从超长词表中选出topk,DeepSeek V4的topk就是512推理采样器从约128K词表中做TopK采样这两处都是每生成一个token就要跑一遍的热路径。单次计算看起来不大,但它们可能出现在反复执行的路径上,因此值得单独优化。
GitHub:https://github.com/deepseek-ai/DeepSelect
八、六个项目之间的协同关系
这六个项目对应训练和推理链路里的不同工作:
矩阵乘影响计算吞吐 → DeepGEMM-AscendMoE需要跨卡分发token并汇总结果 → DeepEP-Ascend稀疏注意力要先筛选相关token再计算注意力 → FlashMLA + DeepSelect生成时也要从词表候选中做选择 → DeepSelect整体逻辑可以这样理解:TileLang提供写算子的方式,TileKernels把一部分常用算子做成现成实现,DeepGEMM处理矩阵计算,DeepEP处理专家之间的数据交换,FlashMLA和DeepSelect分别落在注意力计算与候选筛选上。
这些算子可能处在反复执行的路径上,所以优化它们有实际意义。但单项算子表现不能直接推出端到端模型一定更快。
九、几个需要留意的细节
数据来源:99.8%、90%–95%和410 TFLOPS都来自项目方公开的测试或技术报告,有开发者实测后提醒,这些数字需要在具体环境中验证。
影响性能的因素:矩阵形状、专家并行规模、网络、数据格式和模型版本都会影响结果。算子微基准不能直接换算成线上请求的端到端速度。更稳妥的读法是:仓库展示了团队针对这些硬件和任务做到了什么,而不是给所有用户作出的性能承诺。
使用范围需逐个核对:TileLang和TileKernels的昇腾后端都指向昇腾950,但构建要求并不完全相同。其他项目还各自依赖特定的CANN、PyTorch NPU、Python和编译工具链。项目分开发布,不等于依赖版本已经组成一套经过统一验证的安装矩阵。
若目标是实际部署,建议按以下步骤操作:
先确认设备代际、驱动与CANN版本、torch_npu和编译器要求再用自己要跑的模型、输入长度和请求负载做端到端复测适用人群:这批仓库最适合已经有昇腾环境、正在评估MoE或长上下文推理的模型与基础设施团队。对没有目标硬件、也没有迁移任务的普通开发者,它们暂时更像值得收藏的底层参考实现;光看单项峰值,不足以决定迁移。
参考链接汇总项目 GitHub地址
TileLang
https://github.com/tile-ai/tilelang
DeepGEMM-Ascend
https://github.com/deepseek-ai/DeepGEMM-Ascend
DeepEP-Ascend
https://github.com/deepseek-ai/DeepEP-Ascend
TileKernels
https://github.com/deepseek-ai/TileKernels
FlashMLA https://github.com/deepseek-ai/FlashMLA
DeepSelect https://github.com/deepseek-ai/DeepSelect
FlashMLA昇腾技术报告
https://github.com/deepseek-ai/FlashMLA/blob/main/docs/20260930-ascend-prefill-deep-dive-zh.md
思考与呼吁这6个项目的集中开源,释放了一个清晰的信号:国产AI芯片的竞争,正在从“能不能跑”进入“跑得好不好、生态全不全”的阶段。DeepSeek把自己在英伟达上打磨过的算子方法论往昇腾迁移,本质上是在给整个国产芯片生态打样——证明这条路可以走通,而且能走得漂亮。
但我按同样的方法复测后也意识到,单点性能数字和端到端体验之间还有不小的距离。对大多数团队来说,真正要做的不是盯着99.8%这个数字兴奋,而是回到自己的模型、自己的负载、自己的硬件版本上,老老实实跑一遍。
如果你正在做昇腾迁移,或者正在评估MoE和长上下文推理的硬件方案,不妨把这批仓库收藏起来,逐个核对依赖、逐个复测。生态的成熟,从来不是靠一两家公司甩出几个项目就能完成的,它需要更多人用起来、踩坑、反馈、迭代。
如果这篇内容对你有帮助,欢迎点个赞、转发给需要的朋友,再点一下“在看”。要是方便,也顺手给心眸AI笔记加个星标⭐️,下次更新文章你就能第一时间见到。谢谢你读到这里,我们下篇再见。