头条上看到最近字节跳动——
张一鸣的内部讲话文章，
核心要点主要有:
字节跳动算力充足、资金充足，
但缺乏“高质量数据”；
字节追赶OpenAI和Anthropic，
可能需要到2029/2030年；
数据差距上，
英文互联网有20年积累，
它们有高质量开放数据，
而国内是app里登录才能看的数据孤岛，
公共网络内容充斥着——
抄袭/标题党/空洞内容等信息垃圾。
模型蒸馏与套壳，
追求排行榜分数看起来是捷径，
但没有后劲没有核心竞争力。
字节要做难而正确的事走一条难路，
就是原生预训练与强化学习，
这是真正的底层基础。
字节选择选择了难路，
不追逐即时成果，要啃硬骨头——
纯文本数据红利已尽，
下一步是多模态和物理世界理解。
字节的短视频生态，
比如记录物理世界的切菜、机械、行人，
是下一代的“粮食”。
国内互联网是“高墙围起来的院子”，
真正有深度的内容在相互防备的app里，
公网上全是洗稿、标题党和空洞废话——
“数据孤岛和信息茧房”是双杀，
国内互联网巨头们，
均终将受困于文本数据。
大模型“缺粮”缺的是:
真实的、连贯的、有逻辑的——
高质量人类活动数据。
缺的是真实的——
现场数据、材料流转、免责记录，
这些在公网根本搜不到，
这是最具商业价值的“暗数据”。
AI越强，越需要——
“人间烟火”和“日用常行”里数据来喂养。
而真正的高级真正的数据在现场一线，
真正的壁垒需要长期的孤独。
不喧嚣、不投机，把根扎透，静待花开。