🔻有网友问“deepseek R1 怎么本地部署”的,之前发过教程了。
🔻用 ollama 很简单,先装 ollama 再挂模型,如图1所示,这就是我已经在本地挂好了一个 7b 模型,以此类推,在图2 根据你电脑性能选择模型。
🔻实测 70b 用 4090 是可以跑起来的,32b 很流畅。
🔻最后装一个 docker desktop,用 docker 部署一个 Open WebUI,就可以愉快玩耍部署在本地的 deepseek R1 了。
🔻有网友问“deepseek R1 怎么本地部署”的,之前发过教程了。
🔻用 ollama 很简单,先装 ollama 再挂模型,如图1所示,这就是我已经在本地挂好了一个 7b 模型,以此类推,在图2 根据你电脑性能选择模型。
🔻实测 70b 用 4090 是可以跑起来的,32b 很流畅。
🔻最后装一个 docker desktop,用 docker 部署一个 Open WebUI,就可以愉快玩耍部署在本地的 deepseek R1 了。
猜你喜欢
作者最新文章
热门分类
国际TOP
国际最新文章