新文章:DeepSeek V4.1 Flash 工程实践(二)
把 40 层模型分给 8 张 AMD GPU,只是开始。真正难的是让 32×32 BlockFP8、跨层共享压缩 KV、稀疏 selection 与 mHC pre-mix 在设备边界上保持连续。
这篇沿着 zLLM 的真实修复路径,讲清从官方 safetensors 到八卡文本生成链路,也说明当前 ROCm 单级 Top-K 的验证边界。
网页链接/
新文章:DeepSeek V4.1 Flash 工程实践(二)
把 40 层模型分给 8 张 AMD GPU,只是开始。真正难的是让 32×32 BlockFP8、跨层共享压缩 KV、稀疏 selection 与 mHC pre-mix 在设备边界上保持连续。
这篇沿着 zLLM 的真实修复路径,讲清从官方 safetensors 到八卡文本生成链路,也说明当前 ROCm 单级 Top-K 的验证边界。
网页链接/