[论文解读] Flow Contrastive Estimation of Energy-Based Models

Ruiqi Gao, Erik Nijkamp+4 more|arXiv (Cornell University)|Dec 2, 2019

Generative Adversarial Networks and Image Synthesis参考文献 71被引用 4

一句话总结

本文提出流对比估计（Flow Contrastive Estimation, FCE），一种联合训练方法，结合能量模型（EBM）与归一化流（normalizing flows），以提升生成建模与半监督学习性能。通过将流模型用作噪声对比估计中的动态噪声分布，并通过共享的对抗性目标联合优化两个模型，FCE 提升了样本质量，在半监督图像分类任务中达到最先进性能：当与 VAT 结合时，仅使用 1,000 个标注样本，SVHN 数据集上的错误率为 3.87%。

ABSTRACT

This paper studies a training method to jointly estimate an energy-based model and a flow-based model, in which the two models are iteratively updated based on a shared adversarial value function. This joint training method has the following traits. (1) The update of the energy-based model is based on noise contrastive estimation, with the flow model serving as a strong noise distribution. (2) The update of the flow model approximately minimizes the Jensen-Shannon divergence between the flow model and the data distribution. (3) Unlike generative adversarial networks (GAN) which estimates an implicit probability distribution defined by a generator model, our method estimates two explicit probabilistic distributions on the data. Using the proposed method we demonstrate a significant improvement on the synthesis quality of the flow model, and show the effectiveness of unsupervised feature learning by the learned energy-based model. Furthermore, the proposed training method can be easily adapted to semi-supervised learning. We achieve competitive results to the state-of-the-art semi-supervised learning methods.

研究动机与目标

• 解决流模型的局限性，即其假设变换是可 tractable 且可逆的，可能难以拟合复杂的数据分布。
• 通过将流模型用作强而自适应的噪声分布，改进能量模型（EBM），后者存在归一化不可计算与采样成本高的问题。
• 开发一种联合训练框架，结合 EBM 的表征灵活性与流模型的计算效率。
• 展示所提方法在生成质量与半监督学习性能方面的改进。

提出的方法

• 该方法使用噪声对比估计（NCE）训练能量模型，其中流模型作为对比分布，取代固定的噪声分布。
• 通过最小化相同的 NCE 目标来更新流模型，使其逐步增加 EBM 区分真实数据与生成样本的难度，从而提升其质量。
• 联合优化采用共享的对抗性价值函数，两个模型通过迭代方式更新，以最小化流模型与数据分布之间的 Jensen-Shannon 散度。
• 通过引入标签一致性目标，并可选地加入虚拟对抗训练（VAT），将该框架适配于半监督学习。
• EBM 被训练以学习类条件分布的混合，联合目标促使各类内部模式分离且聚类平滑。
• 该方法从预训练的 Glow 流模型开始，EBM 在联合训练开始前先独立训练 50,000 次迭代。

实验结果

研究问题

• RQ1 流模型能否作为训练能量模型的强而自适应的对比分布，通过噪声对比估计实现？
• RQ2 与独立训练相比，EBM 与流模型的联合优化如何提升样本质量？
• RQ3 所提方法是否能在不依赖 GAN 等隐式生成模型的前提下，实现半监督学习的竞争力表现？
• RQ4 联合训练方案是否相比标准 EBM 或流模型训练，带来更好的表征学习与泛化能力？
• RQ5 该方法是否能有效结合现有正则化技术（如虚拟对抗训练）？

主要发现

• 当与虚拟对抗训练（VAT）结合时，FCE 在仅使用 1,000 个标注样本的 SVHN 数据集上实现了 3.87% 的测试错误率，优于许多最先进方法。
• FCE 显著提升了流模型的样本质量，其在合成与真实图像数据上的定性结果已验证此点。
• 联合训练过程成功学习到一个分离良好、具备模式感知能力的能量模型，能够捕捉具有平滑连通簇的类条件分布。
• FCE-init 基线（EBM 在联合优化前先训练）在仅使用 1,000 个标注样本时，已在 SVHN 上达到 8.50% 的错误率，显示出强大的初始性能。
• 在 FCE 中加入 VAT 后，错误率进一步降低至 500 个样本时为 4.47%，1,000 个样本时为 3.87%，表明与现有正则化技术具有互补优势。
• 该方法表明，通过对抗性对比学习将显式概率模型（EBM 与流模型）结合，可实现更好的泛化与表征学习。