[论文解读] Convergence for score-based generative modeling with polynomial complexity

Holden Lee, Jianfeng Lu+1 more|arXiv (Cornell University)|Jun 13, 2022

Generative Adversarial Networks and Image Synthesis被引用 8

一句话总结

该论文通过分析使用 $ L^2(p) $-准确得分估计从分布中采样的过程，首次为基于得分的生成建模（SGM）建立了多项式时间收敛保证。研究证明，采用热启动的退火采样，特别是通过预测-校正框架，可确保收敛性以多项式形式依赖于对数索波列夫常数和维度，避免了指数级误差增长或维度灾难。

ABSTRACT

Score-based generative modeling (SGM) is a highly successful approach for learning a probability distribution from data and generating further samples. We prove the first polynomial convergence guarantees for the core mechanic behind SGM: drawing samples from a probability density $p$ given a score estimate (an estimate of $ abla \ln p$) that is accurate in $L^2(p)$. Compared to previous works, we do not incur error that grows exponentially in time or that suffers from a curse of dimensionality. Our guarantee works for any smooth distribution and depends polynomially on its log-Sobolev constant. Using our guarantee, we give a theoretical analysis of score-based generative modeling, which transforms white-noise input into samples from a learned data distribution given score estimates at different noise scales. Our analysis gives theoretical grounding to the observation that an annealed procedure is required in practice to generate good samples, as our proof depends essentially on using annealing to obtain a warm start at each step. Moreover, we show that a predictor-corrector algorithm gives better convergence than using either portion alone.

研究动机与目标

• 通过为使用估计得分函数从分布中采样的过程提供收敛保证，填补基于得分的生成建模（SGM）中的理论空白。
• 解决实践中为何退火（或同伦）对高质量样本生成至关重要但缺乏理论理解的问题。
• 消除先前理论分析中普遍存在的指数级误差增长和维度相关发散问题。
• 确立收敛性对对数索波列夫常数和维度呈多项式依赖，而非指数依赖。
• 从理论上证明预测-校正算法在 SGM 中优于单独使用任一组件。

提出的方法

• 对基于 $ L^2(p) $-范数下估计得分函数驱动的随机微分方程（SDEs）的采样过程进行理论分析。
• 利用对数索波列夫常数控制收敛速率，并界定目标分布与近似分布之间的 $ \chi^2 $-散度。
• 通过 $ \chi^2 $-散度界应用热启动论证，初始分布需接近先验分布（如高斯分布）。
• 推导出在一般噪声调度下，SMLD（得分匹配拉姆齐扩散）与 DDPM（去噪扩散概率模型）的界。
• 证明最终分布与目标分布之间的 $ \chi^2 $-散度被限制在 $ 4\exp\left(\frac{d(2M_1 + 8C_{\text{LS}})}{\sigma^2}\right) $ 以内，其中 $ \sigma^2 $ 依赖于噪声调度。
• 采用预测-校正框架，其中预测器使用得分估计，校正器通过 MCMC 步骤优化样本。

实验结果

研究问题

• RQ1 我们能否为基于得分的生成建模提供理论收敛保证，使其在维度和对数索波列夫常数上呈多项式依赖，避免指数级误差增长？
• RQ2 为何在实践中退火（或同伦）对高质量样本生成至关重要，能否从理论上加以解释？
• RQ3 在 SGM 中结合预测与校正步骤是否能带来优于单独使用任一方法的收敛性？如果是，原因是什么？
• RQ4 在 $ L^2(p) $-准确得分估计下，近似分布与目标分布之间的 $ \chi^2 $-散度行为如何？
• RQ5 初始分布与目标分布之间的 $ \chi^2 $-散度在整体收敛速率中起什么作用？

主要发现

• 该论文为基于得分的生成建模建立了时间上的多项式收敛性，误差规模为 $ \exp\left(\frac{d(2M_1 + 8C_{\text{LS}})}{\sigma^2}\right) $，其中 $ C_{\text{LS}} $ 为对数索波列夫常数。
• 去噪后先验分布与数据分布之间的 $ \chi^2 $-散度被限制在 $ 4\exp\left(\frac{d(2M_1 + 8C_{\text{LS}})}{\sigma^2}\right) $ 以内，表明维度依赖关系为多项式，而非指数级。
• 退火在理论上被证明是有效的热启动机制：初始分布必须在 $ \chi^2 $-散度上接近目标分布，才能确保收敛。
• 预测-校正算法的收敛性优于任一组件单独使用，因为校正器通过 MCMC 步骤降低了 $ \chi^2 $-散度。
• 对于 SMLD 和 DDPM，收敛界对维度和对数索波列夫常数均呈多项式依赖，避免了维度灾难。
• 该分析适用于基于 SDE 的 SGM 一般情形，包括离散与连续噪声调度，并为 SMLD 和 DDPM 提供了统一的理论框架。