纽约大学与卡尔加里大学团队提出“删除调优”：仅通过学习一个二值掩码，将预训练大模型前馈层中不到0.05%的权重置零，就能在强化学习、监督微调与策略蒸馏三种后训练场景下，匹配全量微调的表现。

最值得关注的是参数效率与能力保持的双重优势。掩码只作用于Transformer块的门控投影，训练后每个权重对应一个比特，经压缩后适配器体积比全量检查点小数百到数千倍——在30B混合专家模型上约4000倍。以该规模为例，删除调优达到58.54%，全量微调为58.43%。更关键的是，它几乎不损伤原有能力：在强化学习设置下，先验任务准确率基本维持在基座水平，而全量微调、LoRA与随机稀疏微调最多会损失5.4个百分点。几何分析显示，其权重更新的稳定秩、谱漂移与主权重重叠程度更接近全量微调，这解释了为何“只做减法”也能逼近全量效果。

如果后训练真正需要的只是关闭极少数冗余连接，而不是重写大量数值，那么当前以LoRA为代表的加法范式或许只是中间形态。删除调优把“稀疏性”从压缩手段变成了能力获取本身，这可能比单纯缩小适配器更有长远意义。