小红书的AI团队发了篇论文,介绍了他们的DoSA技术,可以让大模型在处理超长上下文输入时,更快输出第一个 Token
论文:
他们用GLM-5.2测试,百万上下文输入时,首字等待缩短约 46%