众力资讯网

几个研究员在讨论蒸馏:蒸馏并不容易,不然你怎么解释Sonnet 5 和 Opus

几个研究员在讨论蒸馏:蒸馏并不容易,不然你怎么解释Sonnet 5 和 Opus 5 并不比 GLM-5.3 和 Kimi K3 强?

John Schulman (Thinking Machines 首席科学家):仅就使用监督学习进行蒸馏而言,提示词的分布极其重要。蒸馏一个模型绝非易事,即便你拥有对它的完全访问权限,并且掌握了思维链等一切信息。从中蒸馏出所有有用的能力绝非易事,因为你需要用某些东西来提示模型。你需要用真实的提示词来提示它。你需要有一个非常广泛的真实提示词分布。

最近浮现的一件事是,一些中国公司很可能在使用这些路由服务 ,这些服务旨在让中国的用户能够使用美国的前沿模型,否则这些模型在中国会被屏蔽。有各种各样的路由或代理服务,让中国的用户能够使用这些模型,主要用于编程。而这些路由服务正在收集并出售部分数据。这是一个对蒸馏非常有用的数据集,因为它为你提供了完美的提示词分布。