[論文レビュー] Deep Directed Generative Models with Energy-Based Probability Estimation

Taesup Kim, Yoshua Bengio|arXiv (Cornell University)|Jun 10, 2016

Generative Adversarial Networks and Image Synthesis参考文献 14被引用数 86

ひとこと要約

本稿では、エネルギー関数と生成ネットワークを同時に学習することで、エネルギーモデルにおける扱いにくい正規化を回避する深層生成モデルを提案する。勾配推定に近似サンプルを供給する生成ネットワークを用いることで（GANと同様のアプローチ）、MCMCサンプリングの問題を回避し、2次元、MNIST、および高次元画像データセットにおいて、効率的な学習と高品質なサンプル生成を実現する。

ABSTRACT

Training energy-based probabilistic models is confronted with apparently intractable sums, whose Monte Carlo estimation requires sampling from the estimated probability distribution in the inner loop of training. This can be approximately achieved by Markov chain Monte Carlo methods, but may still face a formidable obstacle that is the difficulty of mixing between modes with sharp concentrations of probability. Whereas an MCMC process is usually derived from a given energy function based on mathematical considerations and requires an arbitrarily long time to obtain good and varied samples, we propose to train a deep directed generative model (not a Markov chain) so that its sampling distribution approximately matches the energy function that is being trained. Inspired by generative adversarial networks, the proposed framework involves training of two models that represent dual views of the estimated probability distribution: the energy function (mapping an input configuration to a scalar energy value) and the generator (mapping a noise vector to a generated configuration), both represented by deep neural networks.

研究の動機と目的

• エネルギー関数モデルにおける扱いにくい正規化問題に対処する。これは、扱いにくいサンプリング分布からのモンテカルロ推定を要する。
• 鋭い多モードエネルギー分布におけるMCMCサンプリングのモード崩壊および混合不良問題を克服する。
• MCMCサンプリングを、最大尤度学習における正規化因子の勾配推定に使用する近似サンプルを生成する深層有向生成ネットワークに置き換える。
• エネルギー関数と生成ネットワークをGANに類似した敵対的フレームワークで同時に学習する二重モデル枠組みを導入し、サンプルの多様性を向上させるためにエントロピー正則化を適用する。
• 畳み込みアーキテクチャを用いた深層ニューラルネットワークを活用して、画像などの高次元データに対するエネルギー関数モデルの有効な学習を可能にする。

提案手法

• 入力構成をスカラーのエネルギー値にマップする深層ニューラルネットワークをエネルギー関数として学習し、より高い尤度を持つデータポイントに低いエネルギー値を割り当てる。
• ノイズベクトルをデータ構成に変換する深層有向生成モデル（生成ネットワーク）を学習し、確率的でない非マルコフ型変換を用いる。
• 生成ネットワークの出力を近似サンプルとして用い、最大尤度学習における正規化因子の勾配推定を実行することで、MCMCサンプリングの必要性を排除する。
• エネルギー関数と生成ネットワークをGANに類似したフレームワークで同時に学習する：エネルギー関数は識別器として機能し、実データには低エネルギー、生成データには高エネルギーを割り当てる。
• 生成ネットワークの目的関数にエントロピー正則化を適用し、データ多様体の探索を促進し、モード崩壊を緩和する。
• 生成ネットワークにバッチ正則化を適用することで、暗黙のエントロピー正則化として機能させ、サンプルの多様性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 MCMCサンプリングに代えて深層有向生成ネットワークを用いることで、高い計算コストや混合不良を伴わずにエネルギー関数モデルの学習が可能か？
• RQ2 エネルギー関数と生成ネットワークをどのように同時に学習すれば、生成ネットワークの分布がエネルギー関数モデルの目的分布と一致するか？
• RQ3 生成ネットワークの目的関数にエントロピー正則化を適用することで、多モードデータにおけるサンプルの多様性が向上し、モード崩壊が防止されるか？
• RQ4 このフレームワークは、画像などの高次元データを効果的にモデル化できるか。また、全結合型および畳み込み型アーキテクチャの両方で一般化可能か？
• RQ5 特に複雑で多モードな設定において、モデルが学習したエネルギー関数は、真のデータ分布をどれほど正確に反映しているか？

主な発見

• 提案フレームワークにより、MCMCサンプリングに依存せずエネルギー関数モデルを学習でき、学習時間が著しく短縮され、モード探索問題も回避された。
• 2次元の合成データセット（4スピンおよび2スパイラル）において、生成ネットワークはエネルギー関数の分布と一致するサンプルを生成し、エネルギーモデルが多モード構造を正確に捉えていることが確認された。
• MNISTデータセットにおいて、生成ネットワークは潜在空間の補間により滑らかで多様なサンプルを生成し、潜在多様体における意味的な分離性と連続性を示した。
• CelebAおよびLSUN（ベッドルーム）の64×64カラーレンダリング画像を用いた実験では、畳み込みアーキテクチャを用いて、現実的で多様なサンプルが生成された。これは、高次元データへのスケーラビリティを示している。
• ヒートマップによる可視化を通じて、モデルが学習したエネルギー関数はデータ分布に非常に近いことが確認され、エネルギー面が真のデータ密度を的確に反映していることが示された。
• エントロピー正則化は、特に高エントロピーまたは多モードなデータ環境下において、実現可能で多様なサンプルを生成するために実証的に不可欠であった。