[论文解读] Denoising Diffusion Probabilistic Models in Six Simple Steps

Richard E. Turner, Cristiana-Diana Diaconu+4 more|arXiv (Cornell University)|Feb 6, 2024

Simulation Techniques and Applications被引用 4

一句话总结

本文提出了一种简化的六步法来表述去噪扩散概率模型（DDPMs），阐明了每个组件的设计原理，避免依赖变分推断或随机微分方程。通过基于直观的概率推理和标准机器学习概念，该方法在保持生成建模实际有效性的前提下，提供了对DDPMs更清晰、更易理解的解释。

ABSTRACT

Denoising Diffusion Probabilistic Models (DDPMs) are a very popular class of deep generative model that have been successfully applied to a diverse range of problems including image and video generation, protein and material synthesis, weather forecasting, and neural surrogates of partial differential equations. Despite their ubiquity it is hard to find an introduction to DDPMs which is simple, comprehensive, clean and clear. The compact explanations necessary in research papers are not able to elucidate all of the different design steps taken to formulate the DDPM and the rationale of the steps that are presented is often omitted to save space. Moreover, the expositions are typically presented from the variational lower bound perspective which is unnecessary and arguably harmful as it obfuscates why the method is working and suggests generalisations that do not perform well in practice. On the other hand, perspectives that take the continuous time-limit are beautiful and general, but they have a high barrier-to-entry as they require background knowledge of stochastic differential equations and probability flow. In this note, we distill down the formulation of the DDPM into six simple steps each of which comes with a clear rationale. We assume that the reader is familiar with fundamental topics in machine learning including basic probabilistic modelling, Gaussian distributions, maximum likelihood estimation, and deep learning.

研究动机与目标

• 为解决DDPMs缺乏直观且全面的介绍问题，即未能解释每个设计选择背后的理由。
• 提供一种无需依赖变分推断或随机微分方程等高级主题的DDPMs逐步推导方法。
• 通过将方法建立在基本概率建模和最大似然估计的基础上，使DDPMs对研究人员和实践者更具可及性。
• 通过聚焦于底层的概率直觉而非抽象的优化目标，阐明DDPMs为何有效。

提出的方法

• 步骤1：定义数据分布，并引入一个马尔可夫扩散过程，逐步向数据添加噪声，将其转化为简单分布（例如标准高斯分布）。
• 步骤2：将反向过程建模为去噪扩散，使用神经网络逐步学习逆转噪声添加过程。
• 步骤3：对反向过程使用变分近似，但将其视为实际的优化目标而非理论构造。
• 步骤4：通过最小化反向KL散度推导出基于得分的损失函数，从而得到一个可处理的训练目标。
• 步骤5：将训练目标表达为在每个噪声水平下对数据进行去噪，从而实现使用深度神经网络的端到端学习。
• 步骤6：展示模型如何通过从噪声开始并迭代使用学习到的反向过程进行去噪来生成新样本。

实验结果

研究问题

• RQ1 如何以数学上严谨且直观易懂的方式推导DDPMs？
• RQ2 DDPM表述中每个组件的设计原理是什么，为何它们是必要的？
• RQ3 能否在不依赖变分推断或随机微分方程的前提下解释DDPMs？
• RQ4 在扩散模型的背景下，反向去噪过程与最大似然估计有何关联？
• RQ5 使DDPMs有效的关键设计决策是什么，如何通过基本概率原理加以证明？

主要发现

• 六步框架成功地将DDPM的表述简化为一系列基于基础机器学习概念、逻辑连贯且直观的步骤。
• 该方法避免了对复杂数学工具（如随机微分方程）的依赖，使DDPMs对更广泛的受众更具可及性。
• 通过聚焦于反向去噪过程及其与最大似然的关系，该方法阐明了DDPMs为何有效，以及如何实现高效训练。
• 该表述表明，DDPM的核心思想——学习逆转噪声添加过程——可以不借助变分推断或连续时间极限来理解。
• 该方法为使用标准深度学习工具和概率建模技术实现和扩展DDPMs提供了清晰的路径。