[论文解读] Learning Deep Energy Models: Contrastive Divergence vs. Amortized MLE

Qiang Liu, Dilin Wang|arXiv (Cornell University)|Jul 4, 2017

Generative Adversarial Networks and Image Synthesis参考文献 27被引用 15

一句话总结

本文提出 SteinCD 和 SteinGAN 两种新算法，通过将对比分歧（contrastive divergence）与 Stein 变分梯度下降（SVGD）相结合，用于训练深度能量模型。SteinCD 通过 SVGD 增强的对比学习提升测试似然度，而 SteinGAN 则通过生成器网络摊销负样本，生成高质量图像；二者结合，既实现了高似然度，又实现了逼真样本生成。

ABSTRACT

We propose a number of new algorithms for learning deep energy models and demonstrate their properties. We show that our SteinCD performs well in term of test likelihood, while SteinGAN performs well in terms of generating realistic looking images. Our results suggest promising directions for learning better models by combining GAN-style methods with traditional energy-based learning.

研究动机与目标

• 解决传统对比分歧（CD）在测试似然度良好但生成样本质量不高的局限性。
• 通过将基于能量的学习与 GAN 式生成相结合，克服 GAN 在缺乏显式能量得分和泛化能力方面的不足。
• 利用 Stein 变分梯度下降（SVGD）与 CD 之间的理论联系，设计新的能量模型训练算法。
• 证明结合 SteinCD 和 SteinGAN 可使模型同时继承两者优势：高测试似然度与逼真图像生成能力。

提出的方法

• 提出 SteinCD，一种对比分歧的变体，通过集成 SVGD 改进训练过程中模型分布的近似。
• 引入 SteinGAN，其使用神经生成器在最大似然估计中摊销负样本，取代传统的 MCMC 采样。
• 利用 SVGD 导出一种确定性、基于粒子的优化方法，以近似真实后验分布，从而提升样本质量和似然估计。
• 通过引入折扣因子修改最大似然估计（MLE）目标，以稳定训练并正则化对数配分函数。
• 通过将生成器条件化于类别标签，在图像-标签对上联合训练能量模型，实现可控图像生成。
• 采用与 DCGAN 相同的生成器架构以保证公平比较，同时使能量模型（判别器）的参数量少于 DCGAN。

实验结果

研究问题

• RQ1 能否利用 SVGD 与 CD 之间的理论联系，改进深度能量模型训练中的对比分歧？
• RQ2 生成器网络能否有效摊销基于能量模型的最大似然估计中的负样本，从而实现高质量图像生成？
• RQ3 SteinCD 与 SteinGAN 是否表现出互补优势——即高测试似然度与高质量样本生成——从而在联合使用时实现性能提升？
• RQ4 使用 SteinGAN 训练的能量模型能否在图像质量上达到 GAN 的水平，同时保留能量得分和泛化能力的优势？
• RQ5 与标准 MLE 或 CD 相比，采用基于生成器的负样本摊销策略如何影响训练稳定性和模型容量？

主要发现

• SteinCD 实现了高测试似然度，表明其泛化性能与当前最先进的基于 MLE 的方法相当。
• SteinGAN 生成的图像在视觉上逼真，与 GAN 式方法相比具有竞争力，尤其在视觉质量和多样性方面表现优异。
• SteinGAN 的 inception 分数与 DCGAN 相当，表明其生成图像具有较高的感知质量。
• 当使用生成图像作为训练数据用于 ResNet 时，SteinGAN 获得更高的分类准确率，表明其比基线方法保留了更多语义信息。
• 联合使用 SteinCD 和 SteinGAN 的更新机制，可使模型同时实现高测试似然度与高质量图像生成。
• 在更新规则中引入折扣因子可稳定训练过程，并通过正则化对数配分函数提升性能。