众力资讯网

MIT的一个实验室用GPT-6 Astra修改了Qwen3.5-0.88模型0.016%的权重数据,直接把后者的数学能力拉升了一大截。 但同一个实验里另一个本身没有数学能力的更弱模型,按同样办法调整后一点起色也没有。 眼下的突破只是顺着原有底子修复了推理卡壳的bug,技术卡在如何让模型自主改动权重去

MIT的一个实验室用GPT-6 Astra修改了Qwen3.5-0.88模型0.016%的权重数据,直接把后者的数学能力拉升了一大截。
但同一个实验里另一个本身没有数学能力的更弱模型,按同样办法调整后一点起色也没有。
眼下的突破只是顺着原有底子修复了推理卡壳的bug,技术卡在如何让模型自主改动权重去凭空长出新能力。
这事儿琢磨起来挺有意思。
搁在过去,不管教人还是训机器,走的全是同一个笨办法。
人要成才,得先坐在教室里死啃书本,再扔到岗位上摸爬滚打攒经验;机器也一样,先死记硬背海量基础知识打底,再拿实际项目一步步校正。
大家默认的规矩都是:想要长本事,就得老老实实熬时间、吃数据。
从来没人敢想,哪天能直接把脑壳掀开,拿镊子拨弄两下神经,人就能突然通晓高深学问。
结果现在大模型干的,恰恰就是这种掀脑壳的事。
不动庞大的底层训练,也不重新喂数据,就盯着那万分之几的微小参数下手。
可仔细看就会发现,这种办法根本不是无中生有。
那个被提升的模型,肚子里本来就有数学的底子,只是中间有处计算卡住了,被大模型顺手把那个结给解开了而已。
换成那个底子一片空白的模型,外力再怎么拨弄参数,它照样不开窍。
底子没有,谁来动手术都白搭。
接下来就看大模型到底能不能自己找到自己身上的毛病、甚至反过来给自己添本事了。
在那道坎真正迈过去之前,别急着把现在的技术神话成无所不能,它解决的依然是修补,还谈不上造神。