[论文解读] Cutting out the Middle-Man: Training and Evaluating Energy-Based Models without Sampling

Will Grathwohl, Kuan-Chieh Wang+3 more|arXiv (Cornell University)|Feb 13, 2020

Generative Adversarial Networks and Image Synthesis被引用 9

一句话总结

本文提出了一种无需采样的方法，通过仅使用模型对数密度的梯度，来训练和评估未归一化的密度模型。通过利用神经网络估计数据分布与模型分布之间的Stein差异，该方法实现了高效、可扩展的训练，并在高维数据上的拟合优度检验方面优于现有方法。

ABSTRACT

We present a new method for evaluating and training unnormalized density models. Our approach only requires access to the gradient of the unnormalized model's log-density. We estimate the Stein discrepancy between the data density $p(x)$ and the model density $q(x)$ defined by a vector function of the data. We parameterize this function with a neural network and fit its parameters to maximize the discrepancy. This yields a novel goodness-of-fit test which outperforms existing methods on high dimensional data. Furthermore, optimizing $q(x)$ to minimize this discrepancy produces a novel method for training unnormalized models which scales more gracefully than existing methods. The ability to both learn and compare models is a unique feature of the proposed method.

研究动机与目标

• 开发一种无需依赖采样的方法，用于训练和评估未归一化的密度模型。
• 在传统方法难以应对的高维设置中，改进拟合优度检验。
• 通过避免昂贵的采样步骤，实现未归一化模型的可扩展且高效的优化。
• 通过基于梯度的差异估计，将模型训练与评估统一到一个框架中。

提出的方法

• 该方法使用由神经网络参数化的向量值函数，估计数据密度 $ p(x) $ 与模型密度 $ q(x) $ 之间的Stein差异。
• 差异仅通过未归一化模型对数密度的梯度计算，无需从模型中采样。
• 通过优化神经网络参数以最大化差异，提供用于模型评估的检验统计量。
• 在训练过程中最小化同一差异，得到用于学习 $ q(x) $ 的新优化目标。
• 该方法采用基于得分函数的公式定义差异，实现无需显式密度归一化的基于梯度的优化。
• 与现有基于采样的替代方法相比，该方法在高维情况下具有更优的可扩展性。

实验结果

研究问题

• RQ1 是否可以无需从模型分布中采样，即可训练和评估未归一化的密度模型？
• RQ2 基于梯度的Stein差异估计是否在高维数据上的拟合优度检验中优于现有方法？
• RQ3 最小化所提出的差异是否能带来相比标准方法更好的模型学习效果？
• RQ4 是否可以仅使用梯度信息，通过单一框架统一模型训练与评估？

主要发现

• 与现有基于采样的方法相比，所提出的方法在高维数据上的拟合优度检验中表现更优。
• 通过差异最小化进行的模型训练，相比传统基于采样的方法具有更优的可扩展性。
• 该方法仅需对数密度的梯度，因此适用于采样不可行的模型。
• 基于神经网络的差异函数估计，实现了高效且可扩展的模型评估。
• 统一框架允许使用相同的基于梯度的差异度量，同时进行模型训练与评估。