第一次接触大模型,Token 是最常见的词之一。
简单理解:
Token = 模型处理内容时的计量单位。
一次调用里,通常会算: 输入 Token、输出 Token,还有历史上下文。
内容越长,Token 通常越多。 它也会影响上下文占用、输出长度和调用消耗。
想少一些无效 Token,可以记住:
问题写清楚、历史别太长、资料按需给、输出别无限拉长。
下一期讲: 上下文长度到底是什么?
#小马算力 #大模型 #AI入门 #Token #API #AI编程






第一次接触大模型,Token 是最常见的词之一。
简单理解:
Token = 模型处理内容时的计量单位。
一次调用里,通常会算: 输入 Token、输出 Token,还有历史上下文。
内容越长,Token 通常越多。 它也会影响上下文占用、输出长度和调用消耗。
想少一些无效 Token,可以记住:
问题写清楚、历史别太长、资料按需给、输出别无限拉长。
下一期讲: 上下文长度到底是什么?
#小马算力 #大模型 #AI入门 #Token #API #AI编程





