本地能跑通的模型,先不急着上云。下午把新下的量化模型拖进机器,风扇呼呼响,答一句卡一句,数据全留自己硬盘里,心里踏实。国内 token 便宜也不神秘,电价低、推理猛优化、大集群摊成本、厂商互相压价,几样凑一块才把账单打下来。真要处理大活,还得切回云端接口,家里这台还是吃力。
本地能跑通的模型,先不急着上云。下午把新下的量化模型拖进机器,风扇呼呼响,答一句卡一句,数据全留自己硬盘里,心里踏实。国内 token 便宜也不神秘,电价低、推理猛优化、大集群摊成本、厂商互相压价,几样凑一块才把账单打下来。真要处理大活,还得切回云端接口,家里这台还是吃力。
阅读:0
点赞:0