众力资讯网

端侧部署大模型,要在有限内存下兼顾效果,量化技术至关重要。超六成主流车企选择斑马

端侧部署大模型,要在有限内存下兼顾效果,量化技术至关重要。超六成主流车企选择斑马智能端模型、斑马智能AI原生车批量落地、Freelander神行者8首搭斑马智能AutoOmni。神行者8搭载的AutoOmni经过高保真量化,保真度超过99%,内存占用下降50%。不会因为部署车端造成大模型能力大幅衰减。在高通8397有限硬件资源下,完整释放全模态端大模型实力,是软硬协同优化的优秀样本。