众力资讯网

给你们一个最简单比喻,让你们理解蒸馏。理解了后你们就明白:用蒸馏攻击 k3 的人

给你们一个最简单比喻,让你们理解蒸馏。理解了后你们就明白:用蒸馏攻击 k3 的人就是纯纯的蠢。

首先没有任何证据表明 k3 蒸馏了 fable。

但是蒸馏本身你们理解的话,也能知道这没什么问题。

蒸馏其实就是让老师模型出题,学生模型学习,最终学生如果能力足够,他能学会某些老师模型会的东西。

这和你上学的时候和老师学习没有本质区别。

非人公司禁止蒸馏的 terms 根本上就是一种莫须有的扯淡 terms 。

llm 能从 2000 到加减法的试题中学会第 2001 到题的算法,这是必然的。

非人公司的意思是:你付钱给我,我告诉你 2+2=4,但是如果你付钱 2000 次,都得到了答案,但是第 2001 次, 你还要付费问我,你不能学会 2+2+2=6。。。

你学会了,你就是蒸馏我。

类似于我买了一本小学数学试题集,我可以知道这个试题集的答案,但是我不能因此学会小学数学。。。

1 学生为试题集付费了吗?付了。

2 学生学会了东西可以限制吗?学生聪明的话,你限制不了。

3 小学数学的知识产权是老师的吗?不是,这是人类共享的知识。老师才是扒全网数据学会的。

4 那老师给钱了吗?没有。他后来被告了为其中很少的数据赔了一些钱。