众力资讯网

字节创始人公开表示公司不会依赖AI蒸馏技术

字节跳动创始人张一鸣表示公司不会依赖 AI 蒸馏技术

据The Information报道,字节跳动创始人张一鸣表示,即使这意味着落后于竞争对手,公司也不会依赖 AI 蒸馏技术来改进其模型。知情人士透露,这一决定部分受到字节跳动与当地TikTok所有权而产生的复杂关系影响。
在此背景下,“蒸馏”指的是利用更先进的前沿模型(通常由其他公司开发)的输出来训练 AI 模型。Anthropic 指控多家国内 AI 公司,对其 Claude 模型进行蒸馏。然而,字节跳动并未被指控这样做。
分析人士指出,公司外部很难核实“不进行数据提炼”的承诺。张一鸣和字节跳动都没有明确说明公司计划如何在内部执行这项政策,该政策是否适用于公司自有小型模型生成的合成数据,以及张一鸣近期愿意牺牲哪些性能指标。
张一鸣的这番言论之所以引人注目,是因为他近年来一直保持低调。然而,《南华早报》近日报道称,这位创始人“一直在旁听种子团队的核心技术评审,并熬夜阅读OpenAI的论文”。