[论文解读] Deep Directed Generative Models with Energy-Based Probability Estimation

Taesup Kim, Yoshua Bengio|arXiv (Cornell University)|Jun 10, 2016

Generative Adversarial Networks and Image Synthesis参考文献 14被引用 86

一句话总结

该论文提出一种深度生成模型，通过联合训练神经能量函数和生成器网络，绕过能量模型中难以处理的归一化问题。通过使用生成器提供近似样本以进行梯度估计——类似于 GAN 的方法——该方法避免了 MCMC 采样问题，从而在 2D 数据、MNIST 和高维图像数据集上实现了高效训练与高质量样本生成。

ABSTRACT

Training energy-based probabilistic models is confronted with apparently intractable sums, whose Monte Carlo estimation requires sampling from the estimated probability distribution in the inner loop of training. This can be approximately achieved by Markov chain Monte Carlo methods, but may still face a formidable obstacle that is the difficulty of mixing between modes with sharp concentrations of probability. Whereas an MCMC process is usually derived from a given energy function based on mathematical considerations and requires an arbitrarily long time to obtain good and varied samples, we propose to train a deep directed generative model (not a Markov chain) so that its sampling distribution approximately matches the energy function that is being trained. Inspired by generative adversarial networks, the proposed framework involves training of two models that represent dual views of the estimated probability distribution: the energy function (mapping an input configuration to a scalar energy value) and the generator (mapping a noise vector to a generated configuration), both represented by deep neural networks.

研究动机与目标

• 解决能量模型中难以处理的归一化问题，该问题需要从难以处理的采样分布中进行蒙特卡洛估计。
• 克服在尖锐、多峰能量分布中 MCMC 采样存在的模式崩溃和混合不良问题。
• 用深度有向生成器替代 MCMC 采样，以生成近似样本用于最大似然训练中的归一化因子梯度估计。
• 引入一种双模型框架，其中能量函数与生成器以类似 GAN 的对抗方式联合训练，并引入熵正则化以提升样本多样性。
• 通过使用具有卷积结构的深度神经网络，实现对高维数据（如图像）的有效能量模型训练。

提出的方法

• 训练一个深度神经网络作为能量函数，将输入配置映射为标量能量值，使更可能的数据点获得更低的能量。
• 训练一个深度有向生成模型（生成器），将噪声向量映射为数据配置，采用确定性、非马尔可夫变换。
• 使用生成器的输出作为近似样本，以估计最大似然训练中归一化因子的梯度，从而消除对 MCMC 采样的依赖。
• 以类似 GAN 的框架联合训练能量函数与生成器：能量函数充当判别器，为真实数据分配低能量，为生成样本分配高能量。
• 在生成器的目标函数中应用熵正则化，以鼓励对数据流形的探索，缓解模式崩溃问题。
• 在生成器中使用批量归一化，作为一种隐式的熵正则化形式，以提升样本多样性。

实验结果

研究问题

• RQ1 深度有向生成器是否能在不产生高计算成本或混合不良问题的前提下，替代能量模型训练中的 MCMC 采样？
• RQ2 如何联合训练能量函数与生成器，以确保生成器的分布与能量模型的目标分布相匹配？
• RQ3 在生成器目标函数中引入熵正则化是否能提升样本多样性，并防止多峰数据中的模式崩溃？
• RQ4 该框架是否能有效建模高维数据（如图像），并在不同架构（全连接与卷积）间实现泛化？
• RQ5 模型学习到的能量函数在多峰复杂设置下，其准确性在多大程度上反映了底层数据分布？

主要发现

• 所提出的框架成功实现了无需依赖 MCMC 采样的能量模型训练，显著减少了训练时间，并避免了模式搜寻问题。
• 在 2D 合成数据集（四自旋和双螺旋）上，生成器生成的样本与能量函数的分布一致，能量模型准确捕捉了多峰数据结构。
• 在 MNIST 数据集上，生成器通过在潜在空间中插值生成了平滑且多样的样本，展示了潜在流形中具有意义的解耦与连续性。
• 在 CelebA 和 LSUN（卧室）的 64×64 彩色图像上，模型使用卷积架构生成了逼真且多样的样本，表明其在高维数据上的可扩展性。
• 通过热力图可视化，模型学习到的能量函数与数据分布高度一致，证实能量曲面反映了真实的数据密度。
• 在生成器目标函数中引入熵正则化在实验中被证明对生成合理且多样的样本至关重要，尤其在高熵或多峰数据场景下。