[论文解读] Deep Generative Learning via Variational Gradient Flow

Yuan Gao, Yuling Jiao+4 more|arXiv (Cornell University)|Jan 24, 2019

Generative Adversarial Networks and Image Synthesis参考文献 59被引用 4

一句话总结

本文提出变分梯度流（VGrow），一种新颖的深度生成建模框架，通过在概率空间上的梯度流，学习将简单先验分布转化为目标数据分布。通过最小化基于密度比估计导出的向量场的f-散度一阶变分，VGrow 实现了与最先进 GAN 相当的稳定、高保真图像生成，包括一种新的‘logD’散度，其构成了 logD-trick GAN 的基础。

ABSTRACT

We propose a general framework to learn deep generative models via extbf{V}ariational extbf{Gr}adient Fl extbf{ow} (VGrow) on probability spaces. The evolving distribution that asymptotically converges to the target distribution is governed by a vector field, which is the negative gradient of the first variation of the $f$-divergence between them. We prove that the evolving distribution coincides with the pushforward distribution through the infinitesimal time composition of residual maps that are perturbations of the identity map along the vector field. The vector field depends on the density ratio of the pushforward distribution and the target distribution, which can be consistently learned from a binary classification problem. Connections of our proposed VGrow method with other popular methods, such as VAE, GAN and flow-based methods, have been established in this framework, gaining new insights of deep generative learning. We also evaluated several commonly used divergences, including Kullback-Leibler, Jensen-Shannon, Jeffrey divergences as well as our newly discovered `logD' divergence which serves as the objective function of the logD-trick GAN. Experimental results on benchmark datasets demonstrate that VGrow can generate high-fidelity images in a stable and efficient manner, achieving competitive performance with state-of-the-art GANs.

研究动机与目标

• 开发一个统一的深度生成建模框架，结合变分推断、概率空间上的梯度流以及深度神经网络。
• 通过将学习过程表述为受f-散度一阶变分负梯度控制的连续流，稳定深度生成模型的训练。
• 建立 VGrow 与现有方法（如 VAE、GAN 和归一化流）之间的理论与实践联系。
• 探索新的散度，包括新发现的‘logD’散度，作为生成建模的有效目标函数。
• 在 MNIST、FashionMNIST、CIFAR10 和 CelebA 等基准数据集上实现高保真、稳定的图像生成。

提出的方法

• 该方法通过一个向量场演化分布，该向量场是演化分布与目标分布之间 f-散度一阶变分的负梯度。
• 证明演化分布与沿该向量场扰动恒等映射的无穷小残差映射的前向推送分布一致。
• 该向量场依赖于前向推送分布与目标分布之间的密度比，通过二分类任务进行估计。
• 该框架从统一的变分梯度流视角，泛化并统一了 VAE（通过 KL 散度）、GAN（通过 JS 散度）和流模型（通过精确 KL 最小化）的方法。
• 推导出一种新散度‘logD’，并证明其构成 logD-trick GAN 的理论基础，为标准 GAN 目标提供有原则的替代方案。
• 采用外层 IS-Loop 优化策略进行训练，通过 inception score 和 FID 评估模型的稳定性和性能。

实验结果

研究问题

• RQ1 如何利用概率空间上的连续梯度流，以稳定且高效的方式学习深度生成模型？
• RQ2 变分梯度流与现有深度生成模型（如 VAE、GAN 和归一化流）之间存在何种理论联系？
• RQ3 能否推导出一种新散度‘logD’，并有效用作 GAN 的训练目标？
• RQ4 在标准基准测试中，所提出的 VGrow 框架在性能和稳定性方面与最先进 GAN 相比如何？
• RQ5 通过二分类进行密度比估计，在多大程度上能够实现深度生成模型的稳定训练？

主要发现

• VGrow 在 MNIST、FashionMNIST 和 CIFAR10 上实现了训练稳定，inception score 持续上升，表明学习过程持续有效。
• 在 MNIST 和 FashionMNIST 上，VGrow-JS 分别取得 3.32 和 8.75 的 FID 分数，非常接近真实数据的 FID 分数（2.12 和 4.16）。
• 在 CIFAR10 上使用 50,000 个生成样本，VGrow-logD 达到 28.8 的 FID 分数，优于 WGAN-GP（31.1）和 MMDGAN-GP-L2（31.4），并接近最佳报告得分 28.5。
• VGrow-KL 模型在所有数据集上均生成视觉逼真的样本，生成图像在多数情况下与真实图像难以区分，且可按类别清晰识别。
• 该方法在多种散度（包括 KL、JS、JF 和新引入的 logD）上表现出鲁棒性，性能持续提升。
• 理论分析证实，VGrow 下的演化分布等价于先验通过无穷小残差映射的前向推送，为方法提供了坚实的理论基础。