[论文解读] Interpreting and Improving Diffusion Models from an Optimization Perspective

Frank Permenter, Chenyang Yuan|arXiv (Cornell University)|Jun 8, 2023

Advanced Neuroimaging Techniques and Applications被引用 4

一句话总结

本文将去噪扩散模型解释为对数据流形上平方欧几里得距离函数的近似梯度下降，从而实现确定性的基于优化的分析。提出了一种新型采样器，通过聚合去噪器输出来提升生成样本质量，在仅使用5–10次函数评估的情况下，实现了CIFAR-10和CelebA数据集上的SOTA FID分数。

ABSTRACT

Denoising is intuitively related to projection. Indeed, under the manifold hypothesis, adding random noise is approximately equivalent to orthogonal perturbation. Hence, learning to denoise is approximately learning to project. In this paper, we use this observation to interpret denoising diffusion models as approximate gradient descent applied to the Euclidean distance function. We then provide straight-forward convergence analysis of the DDIM sampler under simple assumptions on the projection error of the denoiser. Finally, we propose a new gradient-estimation sampler, generalizing DDIM using insights from our theoretical results. In as few as 5-10 function evaluations, our sampler achieves state-of-the-art FID scores on pretrained CIFAR-10 and CelebA models and can generate high quality samples on latent diffusion models.

研究动机与目标

• 通过将去噪过程视为对数据流形的近似投影，为扩散模型提供一种确定性的、基于优化的解释。
• 在去噪器投影精度的相对误差模型下，分析DDIM采样器的收敛性。
• 设计一种新型采样算法，通过控制梯度估计误差并聚合去噪器输出来提升样本质量。
• 在距离函数优化的框架下，统一现有技术如得分蒸馏采样和条件生成。
• 通过基于距离最小化的合理视角，实现预训练去噪器在约束优化任务中的即插即用。

提出的方法

• 将去噪器输出解释为对数据流形上平方欧几里得距离函数梯度的估计，即 ∇f(x) ≈ σεθ(x,σ)。
• 引入相对误差模型：||∇f(x) − σεθ(x,σ)|| ≤ η||∇f(x)||，用于约束梯度估计误差的上界。
• 证明DDIM采样等价于在相对误差假设下对 f(x) = ½ distK²(x) 执行近似梯度下降。
• 推导出噪声调度 σt 的条件，使得当误差参数 (η,ν) 有界时，distK(xt) 单调递减。
• 提出一种新采样器（算法2），通过聚合多个去噪器输出以降低梯度估计误差并改善收敛性。
• 将该框架应用于重新解释和泛化得分蒸馏采样与条件生成等技术，将其视为对距离函数的约束优化。

实验结果

研究问题

• RQ1 在去噪扩散模型中，去噪过程能否被严格解释为对数据流形的近似投影？
• RQ2 去噪器输出中的相对误差如何影响扩散采样器的收敛性？
• RQ3 扩散采样过程能否被重新解释为对数据流形上平方距离函数的梯度下降？
• RQ4 在梯度估计误差有界的条件下，何种噪声调度能保证采样过程的收敛？
• RQ5 能否通过聚合去噪器输出来降低估计误差，从而设计出性能更优的采样器？

主要发现

• 在流形假设下，当噪声水平 σ 与到流形的距离成正比时，去噪过程近似实现了对数据流形的投影。
• 在梯度估计相对误差有界的条件下，DDIM采样等价于对平方欧几里得距离函数执行近似梯度下降，且收敛性可保证。
• 所提出的采样器仅使用5–10次函数评估，即在预训练的CIFAR-10和CelebA模型上实现了SOTA FID分数。
• 该新采样器在高分辨率潜在扩散模型（如Stable Diffusion）上优于现有方法，在极低推理成本下实现了具有竞争力的FID分数。
• 该框架为得分蒸馏采样提供了一种新解释：其本质是针对包含距离函数和参数化生成器的复合目标函数执行梯度下降。
• 分析揭示，训练去噪器等价于求解Eikonal方程 ||∇d(x)|| = 1，从而将扩散模型与水平集和距离函数学习联系起来。