消息称字节跳动开始预训练 10 万亿参数大模型，规模或接近 Anthropic 旗舰

据《金融时报》8 月 7 日报道，字节跳动正在训练一个参数量最高可达 10 万亿的大模型，目前仍处于早期预训练阶段。三名知情人士称，这一规模将是中国已发布最大模型、月之暗面 Kimi K3 的三倍以上，并接近 Anthropic 最先进模型 Mythos 5 的体量，业内估计后者约有 8 万亿参数。
报道称，该项目由字节 Seed 基金会负责人牵头，体现 CEO 张一鸣推动原创研究、而非模仿竞争对手模型的思路。预训练阶段通常需要三到六个月，之后若进展顺利将进入微调并最终发布，确切参数规模要到后期阶段才能确定。