众力资讯网

新文章:DeepSeek V4.1 Flash 工程实践(二) 把 40 层模型分给 8 张 AMD GPU,只是开始。真正难的是让 32×32 BlockFP8、跨层共享压缩 KV、稀疏 selection 与 mHC pre-mix 在设备边界上保持连续。 这篇沿着 zLLM 的真实修复路径,讲清从官方 safetensors 到八卡文本生成链路,也说明当前 ROCm 单级 T ​

新文章:DeepSeek V4.1 Flash 工程实践(二)

把 40 层模型分给 8 张 AMD GPU,只是开始。真正难的是让 32×32 BlockFP8、跨层共享压缩 KV、稀疏 selection 与 mHC pre-mix 在设备边界上保持连续。

这篇沿着 zLLM 的真实修复路径,讲清从官方 safetensors 到八卡文本生成链路,也说明当前 ROCm 单级 Top-K 的验证边界。

网页链接/