[论文解读] Learning Energy-based Model with Flow-based Backbone by Neural Transport MCMC

Erik Nijkamp, Ruiqi Gao+5 more|arXiv (Cornell University)|Jun 12, 2020

Neural Networks and Applications参考文献 42被引用 12

一句话总结

本文提出一种基于流的能量模型（EBM）主干网络，使潜在空间中的MCMC采样更加高效，且混合性能更优。通过将EBM建模为归一化流上的指数倾斜，该方法实现了良好的混合采样和稳定的训练，克服了直接在数据空间中学习EBM时常见的模式崩溃问题。

ABSTRACT

Learning energy-based model (EBM) requires MCMC sampling of the learned model as the inner loop of the learning algorithm. However, MCMC sampling of EBM in data space is generally not mixing, because the energy function, which is usually parametrized by deep network, is highly multi-modal in the data space. This is a serious handicap for both the theory and practice of EBM. In this paper, we propose to learn EBM with a flow-based model serving as a backbone, so that the EBM is a correction or an exponential tilting of the flow-based model. We show that the model has a particularly simple form in the space of the latent variables of the flow-based model, and MCMC sampling of the EBM in the latent space, which is a simple special case of neural transport MCMC, mixes well and traverses modes in the data space. This enables proper sampling and learning of EBM.

研究动机与目标

• 为解决能量模型（EBM）在数据空间中MCMC采样混合性能差的问题，该问题阻碍了训练与采样。
• 通过利用归一化流作为先验，提升EBM学习的实用性和理论严谨性。
• 通过潜在空间中的MCMC采样，实现对多模态数据分布的有效采样与学习。
• 将EBM形式化为基于流模型的指数倾斜，从而简化潜在空间中的学习目标。

提出的方法

• 使用归一化流作为基础分布，作为EBM的主干网络，提供结构良好的潜在空间。
• 将EBM定义为对流模型的指数倾斜，使能量函数在潜在空间中学习。
• 在流模型的潜在空间中执行MCMC采样，因其几何结构更简单，混合速度更快。
• 应用神经传输MCMC，通过学习自适应引导MCMC提议的传输映射，进一步提升混合性能。
• 通过优化倾斜流模型下数据的似然性来训练EBM，利用潜在空间中的MCMC进行梯度估计。
• 利用流模型的可逆性与可计算的雅可比行列式，精确计算似然性并实现高效采样。

实验结果

研究问题

• RQ1 基于流的模型能否作为EBM学习的稳定主干网络，以提升MCMC混合性能？
• RQ2 在归一化流的潜在空间中采样，是否能提升多模态数据分布中的模式覆盖度？
• RQ3 神经传输MCMC能否在潜在空间中有效应用于EBM训练，以提升采样效率？
• RQ4 EBM在流模型上的指数倾斜形式化，如何简化训练过程并提升收敛性？

主要发现

• 基于流模型的潜在空间中MCMC采样相比数据空间混合性能显著提升，能够有效遍历多模态分布。
• 所提方法通过利用潜在空间的良好几何结构，实现了EBM的稳定训练。
• 指数倾斜形式化使EBM能够通过在潜在空间中计算的MCMC梯度实现高效训练。
• 神经传输MCMC进一步改善了潜在空间中的混合性能，带来更快的收敛速度与更优的采样质量。