众力资讯网

[LG]《High-accuracy sampling for diffusio

[LG]《High-accuracy sampling for diffusion models and log-concave distributions》F Chen, S Chewi, C Daskalakis, A Rakhlin [MIT & Yale University] (2026)

在生成式扩散模型领域,如何仅通过分值函数(Score Function)实现高精度采样是一个悬而未决的难题。过去的方法受困于离散化误差,其采样精度与迭代次数呈多项式关系,本质原因是现有的采样器大多基于随机微分方程的离散化,缺乏类似优化算法中的指数级收敛特性。

本文的核心洞见是:把扩散模型的每一步反向转移看作一个带高斯约束的拒绝采样过程。由此,引入一种名为“一阶拒绝采样(FORS)”的关键操作,利用泰勒展开和路径积分将难以计算的密度比转化为仅需一阶分值信息的无偏估计,从而在不依赖密度函数值的前提下,实现了误差随步数对数级衰减的指数级加速。

这项工作真正留下的遗产是打破了扩散模型采样效率的理论天花板,证明了仅凭分值估计即可达到与经典蒙特卡洛方法相当的高精度。它为后来者打开的新门是利用数据的内在维度(Intrinsic Dimension)实现几乎“维数无关”的快速采样,但尚未跨过的门槛是该算法在超大规模实际模型(如高分辨率图像生成)中的计算开销与工程鲁棒性验证。

arxiv.org/abs/2602.01338 机器学习 人工智能 论文 AI创造营