是不是可以这样理解:蒸馏技术是AI行业中的公开技术,以前大公司大投入搞基本模型,小公司小投入利用蒸馏技术搞应用模型。但由于蒸馏技术不行,没有引起大公司注意,现在蒸馏技术提高了,做出来的模型与大公司花很大成本做出的不差,影响到大公司的生存了,于是大公司不干了,要禁止蒸馏了——就是不让用基础模型蒸馏了。 这或许是发展AI必然会面临的问题:如果不允许蒸馏技术,都去搞基础模型,都去做0-1,这会是对资源的巨大浪费,不利于整个AI行业的发展;而如果大家都去搞成本投入小的蒸馏,在提升蒸馏技术上花工夫、快速迭代,都不去做艰难的、花大成本的0-1,谁来做最基础的基础模型、让别人蒸馏呢?最终可能要制定出一套既保护原创,又允许适当蒸馏技术、不影响原创利益的规则来。
是不是可以这样理解:蒸馏技术是AI行业中的公开技术,以前大公司大投入搞基本模型,
熊丙甲看教资
2025-01-30 16:58:39
0
阅读:2