[论文解读] A Variational Perspective on Diffusion-Based Generative Models and Score Matching

Chin-Wei Huang, Jae Hyun Lim+1 more|arXiv (Cornell University)|Jun 5, 2021

Generative Adversarial Networks and Image Synthesis参考文献 54被引用 40

一句话总结

本文建立了用于扩散基生成模型和分数匹配的连续时间变分框架，将分数匹配与通过 Feynman-Kac 和 Girsanov 理论得到的插件反向 SDE 的对数似然下界联系起来。

ABSTRACT

Discrete-time diffusion-based generative models and score matching methods have shown promising results in modeling high-dimensional image data. Recently, Song et al. (2021) show that diffusion processes that transform data into noise can be reversed via learning the score function, i.e. the gradient of the log-density of the perturbed data. They propose to plug the learned score function into an inverse formula to define a generative diffusion process. Despite the empirical success, a theoretical underpinning of this procedure is still lacking. In this work, we approach the (continuous-time) generative diffusion directly and derive a variational framework for likelihood estimation, which includes continuous-time normalizing flows as a special case, and can be seen as an infinitely deep variational autoencoder. Under this framework, we show that minimizing the score-matching loss is equivalent to maximizing a lower bound of the likelihood of the plug-in reverse SDE proposed by Song et al. (2021), bridging the theoretical gap.

研究动机与目标

• 为扩散模型中使用的连续时间扩散过程提供动机并形式化似然估计。
• 通过一个变分 ELBO 框架将分数匹配损失与极大似然建立桥接。
• 证明最小化分数匹配损失会最大化插件反向 SDE 的边际似然的下界。
• 将结果推广到一族边际等价的插件反向 SDE，包括把等价 ODE 作为极限情形。

提出的方法

• 使用 Feynman-Kac 推导一个变分框架，通过期望来表示生成扩散的边际密度。
• 应用 Girsanov 的测度变换来推断潜在的布朗路径并得到连续时间的 ELBO（CT-ELBO）。
• 对生成和推断的 SDE 进行重新参数化，以揭示与分数函数的联系。
• 证明当推断 SDE 与边际密度的分数匹配时，连续时间 ELBO 会收紧。
• 证明 CT-ELBO 将离散时间 ELBO 延拓到无限深的层级，并与无限深的 VAE 视角相关。
• 讨论实际估计中的计算权衡、偏差-方差考虑以及去偏策略。

实验结果

研究问题

• RQ1 最小化分数匹配损失如何影响插件反向 SDE 的采样行为？
• RQ2 变分 ELBO 框架是否能够一致估计连续时间扩散模型的边际似然？
• RQ3 基于扩散的生成模型中，分数匹配与最大似然的关系是什么？
• RQ4 插件反向 SDE 是否形成一个以分数匹配最大化 ELBO 的连续体？

主要发现

• 一个变分框架产生一个连续时间的 ELBO，作为插件反向 SDE 的对数边际密度的下界。
• 最小化分数匹配损失相当于最大化插件反向 SDE 的似然性下界，连接分数匹配和似然估计。
• 该框架将离散时间扩散模型扩展到无限深，与无限深层次的 VAE 视角保持一致。
• 存在一族边际等价的插件反向 SDE，包括把等价 ODE 作为极限情形，在某些条件下都具有相同的边际分布。
• 详细比较揭示了计算效率的权衡，去偏策略在实际数据集（如 MNIST 和 CIFAR-10）上提高似然估计。