众力资讯网

被数据卡住的算法公司 字节跳动大概是这个时代最擅长从数据里榨出效率的公司。推荐

被数据卡住的算法公司

字节跳动大概是这个时代最擅长从数据里榨出效率的公司。推荐算法把抖音喂成了全球最大的短视频机器,豆包靠着算力和抖音导流做到月活4.19亿,是通义千问的将近三倍。论产品打磨、流量分发和工程落地,没有哪家中国公司比字节更懂得“三天见分晓”。

但张一鸣在2026年11月的一次AI团队全员会上,说了一句反直觉的话:卡住字节基础大模型的,不是钱,不是算力,是数据。

他给出的时间表是:字节有能力与OpenAI和Anthropic正面竞争,但真正追平,“最早也要到2029年或2030年”。Seed语言模型的预训练数据集,比领先竞争对手“小几个数量级”。

一家吞吐海量内容的公司,为什么缺数据

这听起来像一个悖论。字节每天处理的视频、图文、评论以亿计,怎么会缺训练数据?

缺的不是“数据”,是特定形态的数据。训练顶尖语言模型需要的是高质量文本、代码、推理轨迹和专家解题过程,而过去二十年英文互联网沉淀下来的开放网页、GitHub、arXiv、Reddit,构成了一个几乎免费的公共语料层。中文互联网的优质内容则高度折叠在微信、小红书、抖音各自的App孤岛里,公网爬虫触达不到,公开网页上能抓到的又大量是营销号和低密度文本。钱可以买显卡、建数据中心,字节2026年AI资本支出预算已经上调到超过2000亿元,但买不来别人二十年积累的开放语料生态。

更深的约束在于,数据稀缺正在从“公开网页不够用”变成“过程数据不够用”。真正让模型学会像医生、律师或工程师那样工作的,不是答案本身,而是专家在模糊情境中搜索、试错、纠正的轨迹。这类数据不在开放网络上,在企业代码库和日常工作流里,获取成本远高于爬网页。字节组建了超过1000人的AI数据部门,仅Seedance视频模型的数据评测团队就超过1000人,世界模型和代码模型的数据预算在2026年初已超过一亿美元。这已经不是“数据团队”的规模,而是一支数据基建部队。

拒绝蒸馏,意味着接受在榜单上“难看”

面对数据短板,行业里有一条心照不宣的捷径:蒸馏。让自家模型学习对手模型的输出,成本低、见效快,刷榜效果立竿见影。

张一鸣在2026年7月就明确告诉Seed团队“坚决不蒸馏”,8月又重申可以接受阶段性落后。CEO梁汝波在8月6日的年中全员会上说得更直白:“接受短期落后,坚持优化长期,最重要的是动作不要变形”。内部甚至通过API异常检测和增强开源模型数据过滤,防止研发人员私下拿第三方模型的输出当训练集。

这个选择在短期内是有代价的。在中国头部AI公司中,Seed是唯一没有推出在主流评测中位居世界最前列的语言模型的团队,主模型上一次大版本更新还是2026年6月的Seed 2.1。换句话说,字节在用一张不够好看的榜单成绩单,换一条不被对手输出“锁死”的技术路线。蒸馏出来的能力,在面对训练分布之外的超纲问题时,衰减是结构性的;原生预训练和强化学习虽然慢,但能力的“底盘”是自己长出来的。

2029年不是终点,是一道代际算术题

张一鸣把时间表定在2029到2030年,背后是一笔关于“数据墙”的账。

Epoch AI等机构的研究估算,按照当前训练数据的消耗速度,公开可获取的高质量人类文本数据存量将在2026年到2032年之间被模型训练耗尽。也就是说,整个行业“拼谁抓的网页多”的窗口正在关闭。下一步的竞争焦点会转向合成数据、强化学习自我博弈,以及对物理世界的多模态理解。到那个时候,竞争的计量单位不再是“文本token存量”,而是“谁能生成高质量的交互轨迹和世界状态”。

这正是字节把视频和世界模型放在2026年头号优先级的原因。Seedance在视频生成赛道已经是SOTA级别,2026年4月LMArena的文生视频、图生视频、视频编辑三项榜单上Seedance 2.0全面第一。更关键的是,世界模型被列为字节2026年AI四大优先事项之首,张一鸣亲自督导实时空间视频生成模型,训练数据预算据报是竞争对手的三到四倍。逻辑是连贯的:当文本语料的天花板压下来,抖音生态里全球最大规模、最鲜活的视频流,加上Seedance已经建立起来的视频生成能力,可能从语言模型时代的“包袱”变成世界模型时代的“武器”。视频里包含的物理运动、空间关系、因果时序,恰好是纯文本公司最难凭空合成的数据形态。

当然,这是一笔长线赌注。但至少字节的选择是自洽的:不在别人已经建好的文本高地上打一场补给线过长的仗,而是在自己拥有独特数据资产的方向上,等下一道地形变化。

科技史上最怕的不是落后三年,是落后三年却用榜单和话术把自己先骗信了。这个姿态本身比任何追平时间表都更能说明它至少看清了自己卡在哪里。剩下的问题是,四年之后,那堵文本数据墙是否真的会把竞争推到一个字节有优势的战场上——以及在那之前,它能否忍住不走捷径。