[论文解读] Analytic-DPM: an Analytic Estimate of the Optimal Reverse Variance in Diffusion Probabilistic Models

Fan Bao, Chongxuan Li+2 more|arXiv (Cornell University)|Jan 17, 2022

Generative Adversarial Networks and Image Synthesis被引用 74

一句话总结

Analytic-DPM 提供对扩散概率模型中最优反向方差的训练无关分析估计，使采样在不需要额外训练的情况下更快且更接近似然。它从 score 函数导出方差和 KL 界，并利用动态规划来找到高效的推断轨迹。

ABSTRACT

Diffusion probabilistic models (DPMs) represent a class of powerful generative models. Despite their success, the inference of DPMs is expensive since it generally needs to iterate over thousands of timesteps. A key problem in the inference is to estimate the variance in each timestep of the reverse process. In this work, we present a surprising result that both the optimal reverse variance and the corresponding optimal KL divergence of a DPM have analytic forms w.r.t. its score function. Building upon it, we propose Analytic-DPM, a training-free inference framework that estimates the analytic forms of the variance and KL divergence using the Monte Carlo method and a pretrained score-based model. Further, to correct the potential bias caused by the score-based model, we derive both lower and upper bounds of the optimal variance and clip the estimate for a better result. Empirically, our analytic-DPM improves the log-likelihood of various DPMs, produces high-quality samples, and meanwhile enjoys a 20x to 80x speed up.

研究动机与目标

• 通过解决反向方差估计的问题，使扩散概率模型（DPMs）实现更快且符合似然性的推断。
• 推导以 score 函数为变量的最优反向方差和 KL 散度的解析形式。
• 提出一个训练无关的 Analytic-DPM 框架，通过蒙特卡罗采样和预训练的 score 模型来估计这些量。
• 引入界限以截断方差估计并减少来自 score-model 近似的偏差。
• 在多个数据集上通过实证验证 Analytic-DPM 能提升对数似然和样本质量，同时带来显著的加速。

提出的方法

• 证明在 KL 最小化的反向过程中的最优反向均值和方差具有依赖于 score 函数的解析形式（定理 1）。
• 使用预训练的 score 模型通过 Monte Carlo 的平均以及 Eq. (9) 估计最优反向方差 9。
• 推导最优方差的上界和下界（定理 2），并对估计进行截断以降低偏差。
• 构造更短的前向轨迹并使用最小成本路径 DP（Watson et al., 2021）来确定最优采样计划（Eq. (14)）。
• 将框架扩展到连续时间步长并讨论轨迹优化（OT）和 ET 策略。
• 在预训练和自训练的 score 模型上验证方法，覆盖数据集（CIFAR-10、CelebA、ImageNet），并与 DDPM 和 DDIM 基线进行比较。

实验结果

研究问题

• RQ1 是否可以用解析形式表达 DPM 中最优的反向方差和 KL 发散量，且以 score 函数为自变量？
• RQ2 是否可以让无训练的 Analytic-DPM 从一个预训练的 score 模型高效地估计这些最优量？
• RQ3 基于方差界限的截断对偏差和性能有何影响？
• RQ4 使用最短路径（或通过 DP 构建的最优轨迹）是否能在 Analytic-DPM 下保持或提升对数似然和样本质量？
• RQ5 Analytic-DPM 是否适用于不同的前向过程（DDPM 和 DDIM）以及不同的数据集？

主要发现

• 最优的反向均值和方差相对于 score 函数具有解析形式（定理 1）。
• 解析方差估计 787 行 通过 Monte Carlo 和 Gamma 统计从预训练的 score 模型即可计算得到（Eq. (9)）。
• 对方差进行界限和截断可降低偏差，给出明确的下界/上界（定理 2）。
• 最短路径 DP 可以高效地选择轨迹，在不同方法和数据集上实现 20× 到 80× 的加速，同时提升或保持对数似然和样本质量。
• Analytic-DPM 在 CIFAR-10、CelebA-64 和 ImageNet-64x64 下，在 ET 与 OT 轨迹下持续提升对数似然相对于原始 DDPM（表 1）；在基于 DDIM 的采样上也提升了 FID（表 2）。
• Analytic-DPM 实现了显著的加速（例如在 CIFAR-10 的 ET/OT 轨迹下达到 40×），同时在似然性和样本质量上与基线相当或超越。