众力资讯网

数据,为什么是国内大模型的短板? 张一鸣最近一句话点透行业真相,卡住大模型脖子的压根不是钱和算力,而是这喂不饱的胃口。 圈内老有人犯嘀咕,大厂手里捏着海量的用户日常和视频动态,怎么还能缺这玩艺儿。 其实这里头有个门道,日常产生的零碎信息根本算不上高质量的数。 那些能让模型真正

数据,为什么是国内大模型的短板?

张一鸣最近一句话点透行业真相,卡住大模型脖子的压根不是钱和算力,而是这喂不饱的胃口。

圈内老有人犯嘀咕,大厂手里捏着海量的用户日常和视频动态,怎么还能缺这玩艺儿。

其实这里头有个门道,日常产生的零碎信息根本算不上高质量的数。

那些能让模型真正开智的,得是成体系的学术大作、精密的底层代码,还有全球各路牛人的专业过招。

这些高密度的硬核知识,不是开着钞票车就能立刻拉回来的。

看看人家海外大厂,很早就把英文世界沉淀几十年的人类精华啃了个底朝天。

咱们这边的情况就尴尬多了,各家企业把门槛修得比城墙还高,数据全锁在各自的围墙里出不去。

外面流淌的各种网文翻新、段子搬运,看着热闹,其实水分大得很,噪声比干货多出几大截。

再加上合规这根紧箍咒,很多优质外文资料压根不敢随便拿来喂模型。

有些搞技术的总想着走捷径,直接拿别家成熟的成果来反哺自己。

这种做法拿去应付考试跑分看着挺光鲜,但实际上抽掉人家的底座,自己连最基本的逻辑推演都支棱不起来。

搞这行当有个很形象的理儿,算力就是烧得通红的炉子,资金是添进去的煤炭,而那些干净扎实的优质语料才是正经的口粮。

炉子火候再猛,没好米下锅也熬不出香喷喷的粥。

想要真正追上第一梯队的步伐,光砸硬件压根没用,得耐下心来把底层的基础夯实在。

行业里有人直言不讳地指出,这盘棋要下到本世纪末才能看出真正的大结局。