【国产GPU景嘉微完成DeepSeekR1系列模型适配】国产GPU厂商景嘉微今

超大型计算机 2025-02-12 17:19:16

【国产GPU景嘉微完成DeepSeek R1系列模型适配】国产GPU厂商景嘉微今天宣布,JM系列、景宏系列与DeepSeek R1系列的成功适配,进一步推动DeepSeek在云边端等各类场景的应用。其中,景嘉微JM系列完成了DeepSeek-R1-Distill-Qwen-1.5B模型和DeepSeek-R1-Distill-Qwen-7B模型的适配。同时,景宏系列已全面兼容并适配DeepSeek R1全系列模型,覆盖从1.5B至70B参数规模的LLaMA及千问模型架构。基于vLLM推理框架的部署方案,实现了高效推理性能与经济性的双重优势,为开发者提供了便捷的开发支持。该方案支持快速启动和使用,无需复杂配置,助力AI技术的规模化落地应用。

0 阅读:15
超大型计算机

超大型计算机

感谢大家的关注