DeepSeek在10月20号正式开源了自家线上正在跑的生产级推理框架Deeplnfer，训练决定模型聪不聪明，推理框架决定它跑起来贵不贵、快不快。其实，它就是DeepSeek大模型线上服务的“算力发动机”。不过，它只是专用引擎，不是能通用的推理工具，其他厂商的模型拿过来，很难直接拿到同等性能。