众力资讯网

百度突然发了个新模型。

百度发新模型了,总参数 280B 的 Flash 模型,名字叫文心 5.5 Flash Base(ERNIE-5.5-Flash-Base)。目前已经开放权重。

我看完了他们的技术 Blog,最大的感触是,百度把他们在 LLM 架构,特别是注意力机制、长上下文处理效率等方面的最新思考和技术积累,全部体现到了这个模型上。

从技术角度看,这个模型也代表了目前行业里在大模型架构设计上的一些前沿探索,很多技术方案都相当有新意。

注意,百度这次发布的是一个 Base Model,也就是基座模型。

我先解释一下 Base Model 是什么意思。简单理解,就是模型已经完成了预训练,但还没有经过完整的 SFT、RL 等后训练。

开发者可以在这个模型的基础上,根据自己的业务需求,继续进行后训练。

其实,对于成规模的公司来说,现在完全可以考虑训练自己的模型。

尤其是有大量业务数据、长期需要使用 AI 的企业,基于一个足够强的 Base Model 进行后训练,往往会比直接使用通用模型更适合自己的业务。

之前硅谷的法律 AI 独角兽 Harvey 不就用 Kimi K3 训练出了自己的专有模型,最后效果超过 K3 本身,甚至超过了 GPT 等闭源模型。

基于 Base Model,再结合自己的实际业务数据和流程进行后训练做出来的专有模型,目前看,至少有两个好处:

第一,如果模型的使用量足够大,自己部署和运行模型,可以直接降低长期成本。

第二,如果选择私有化部署和训练,自己的业务数据就不用全部交给第三方模型服务商。

从模型规模来看,百度这次的 Flash 模型,可以直接对标 DeepSeek V4 Flash。

DeepSeek V4 Flash 的总参数量是 284B,每个 Token 激活 13B 参数。百度这次的 ERNIE 5.5 Flash Base,总参数量是 280B,激活参数量是 14B。

两者规模非常接近,而且都非常重视长上下文的处理效率,部分技术思路也是相通的。

#ai #硅谷 #OpenAI #kimi #百度 #DeepSeek #文心 #百度世界2026