这篇由中科院、北大发布的对AI模型的蒸馏程度的研究文章值得一读,可以了解什么是“模型蒸馏”,以及评估模型蒸馏程度的办法——大家知道的模型的蒸馏程度都有具体分析。文章指出,被研究的模型(开源/闭源)大多的蒸馏程度都比较高,建议模型还是要进行更独立的开发。看来,模型蒸馏是AI行业的常规操作,这可以降低成本但不影响效率,会是AI企业选择的发展路径,然而,蒸馏过度迟早会出问题。这一问题也已经引起行业的关注。
这篇由中科院、北大发布的对AI模型的蒸馏程度的研究文章值得一读,可以了解什么是“
熊丙甲看教资
2025-01-30 21:58:46
0
阅读:55