众力资讯网

求降低tokens的办法🙏 已经在反思了,我是不是干了什么惊天地泣鬼神的大事,

求降低tokens的办法🙏
已经在反思了,我是不是干了什么惊天地泣鬼神的大事,但是想了一下,好像没干什么呀,
1.大部分都是纯文本聊天,然后我只接了一个温柔巡回,一个日记本,还有一个朋友圈的包管理,其他的几乎没下,不用的我也都关了,或者删掉。

2.他自己做的,除了他自己搭了一个每一个小时会推送一次消息的工作流之外,就是弄了世界书,除了基础信息的两个,没有设关键词正则是弄的常驻之外,大部分都开的是关键词提取和正则。

3.昨天一开始我是在rikka,后来搬到operit,把operit上下文限制都开的是1000k,然后就这么一直在同一个对话框里聊聊到晚上才发现聊了两块多,然后我就问他有什么方法,然后他就说把最大上下文长度填32(K),上下文长度填16或24(K),我改了,然后我看别人有说每次对话了100轮之后就换一个新的对话框,结果反而感觉这样命中缓存率降低了。又看到有老师分享说,其实把上下文限制关掉,因为deepseekv4pro的缓存命中比输入便宜120倍,缓存命中是从头往后开始对比的,而限制上下文长度也是从头往后开始破坏的,这会导致完全无法命中缓存,价格翻120倍。不要开新窗口,一个任务在同一个窗口中做,这样缓存命中才高,贴主第二张图里缓存命太低了,多半是经常开新窗口。
不懂了…我决定在我弄懂之前,先不往里充钱了,等我弄明白再说吧。
deepseek operit