[論文レビュー] Cutting out the Middle-Man: Training and Evaluating Energy-Based Models without Sampling

Will Grathwohl, Kuan-Chieh Wang+3 more|arXiv (Cornell University)|Feb 13, 2020

Generative Adversarial Networks and Image Synthesis被引用数 9

ひとこと要約

この論文は、モデルの対数密度の勾配のみを用いて、サンプリングを必要としない未正規化密度モデルの学習および評価手法を提案する。ニューラルネットワークを用いてデータ分布とモデル分布間のスティーン不一致を推定することで、従来の手法と比較して高次元データにおいてより効率的かつスケーラブルな学習と優れた適合度検定を実現する。

ABSTRACT

We present a new method for evaluating and training unnormalized density models. Our approach only requires access to the gradient of the unnormalized model's log-density. We estimate the Stein discrepancy between the data density $p(x)$ and the model density $q(x)$ defined by a vector function of the data. We parameterize this function with a neural network and fit its parameters to maximize the discrepancy. This yields a novel goodness-of-fit test which outperforms existing methods on high dimensional data. Furthermore, optimizing $q(x)$ to minimize this discrepancy produces a novel method for training unnormalized models which scales more gracefully than existing methods. The ability to both learn and compare models is a unique feature of the proposed method.

研究の動機と目的

• サンプリングに依存せずに未正規化密度モデルの学習および評価を行う手法を開発すること。
• 従来の手法が困難となる高次元設定における適合度検定を改善すること。
• コストの高いサンプリングステップを回避することで、未正規化モデルのスケーラブルで効率的な最適化を可能にすること。
• 勾配ベースの不一致推定を用いて、モデルの学習と評価を統合したフレームワークを実現すること。

提案手法

• モデル密度 $ q(x) $ とデータ密度 $ p(x) $ の間のスティーン不一致を、ニューラルネットワークによってパラメータ化されたベクトル値関数を用いて推定する。
• 未正規化モデルの対数密度の勾配のみを用いて不一致を計算するため、モデル分布からのサンプリングの必要がなくなる。
• ニューラルネットワークのパラメータを不一致を最大化するように最適化することで、モデル評価のための検定統計量が得られる。
• 訓練中に同じ不一致を最小化することで、$ q(x) $ の学習のための新たな最適化目的関数が得られる。
• スコア関数に基づく定式化を用いることで、明示的な密度正規化なしに勾配ベースの最適化が可能になる。
• 特に高次元において、従来のサンプリングベースの代替手法と比較してより滑らかにスケーリングする。

実験結果

リサーチクエスチョン

• RQ1 未正規化密度モデルは、モデル分布からのサンプリングを必要とせずに学習および評価可能か？
• RQ2 勾配ベースのスティーン不一致推定は、高次元データにおいて既存の適合度検定を上回る性能を示せるか？
• RQ3 提案された不一致を最小化することで、標準的手法と比較してより優れたモデル学習が達成できるか？
• RQ4 勾配情報のみを用いて、1つのフレームワークでモデルの学習と評価を統合できるか？

主な発見

• 提案手法は、従来のサンプリングベースの手法と比較して、高次元データにおける適合度検定において優れた性能を達成する。
• 不一致の最小化によるモデル学習は、従来のサンプリングベースのアプローチよりもより滑らかにスケーリングする。
• 対数密度の勾配のみを必要とするため、サンプリングが非効率なモデルにも適用可能である。
• 不一致関数のニューラルネットワークベースの推定により、効果的でスケーラブルなモデル評価が可能になる。
• 統合フレームワークにより、同じ勾配ベースの不一致測度を用いて同時に学習と評価が行える。