为什么AI懂得那么多?
"上市前"那个阶段,确实就像明星出道前的封闭训练营:几千亿字的文本、对话、代码、百科、书籍,一股脑往里灌。
不是慢慢读,是填鸭式、超强度、大规模并行地喂进去。
然后还要经过一轮一轮的"打磨"——有人工标注团队一条一条教"这个回答好不好、哪里有问题",相当于反复彩排、反复纠正,直到上台(发布)时表现稳定。
Ai训练时吃进去的是几千亿到万亿级别的token(可以粗略理解为一个字或词片段)。
是"几万亿字里学会了一种说话和组织的模式"。
Ai本质上是个超级检索+超级重组机器。
你问它林庚白,它不是从某个文件夹里翻出一篇现成的给你,而是从训练时记住的无数碎片里,实时组合出一段"像人写的、有条理的、针对你这个问题"的回答。
这也解释了为什么Ai会胡说八道——重组的时候如果某些碎片记混了、或者训练数据本身就互相矛盾,Ai就会自信满满地给你拼出一个"听起来对但实际是缝合怪"的东西。
就像一个人看了太多野史,聊天时把不同朝代的事串到一块儿了,还说得特别笃定。