众力资讯网

小米大模型刷新全球最快推理速度这就厉害了。万亿参数大模型1000 tokens/

小米大模型刷新全球最快推理速度这就厉害了。万亿参数大模型1000 tokens/s的推理速度,目前整个行业能做到的只有这一家。可不要觉得1000 tokens/s不稀奇,小模型之前就已经实现。你要想放到万亿参数的旗舰模型里,难度不是一个级别的。而且还是依托通用GPU运行,没有借助专用AI芯片的情况下实现的。大模型虽然很火,但是短板一直存在。速度快的能力偏弱,实力强的又响应迟缓,兼顾体验的更是难上加难。小米这次模型参数、智能水准等没有缩水,靠着算法和系统的多层优化,把硬件潜能充分释放,又快又强又百搭。具体实用方面,MiMo-V2.5-Pro-UltraSpeed定价是普通版的三倍,体验直接翻倍提升。以前大家用大模型做方案、写代码,总是感觉会慢一些。现在毫秒级出结果,效率提升很多,大家也能有更多时间放在创作和思考上。AI大模型都是近几年大家讨论的重点,小米的空间还是很大的。手机、汽车、IoT等生态上,都会有更多玩法和可能,大概率会成为未来业绩提升的另一个支点。