[論文レビュー] Learning Energy-based Model with Flow-based Backbone by Neural Transport MCMC

Erik Nijkamp, Ruiqi Gao+5 more|arXiv (Cornell University)|Jun 12, 2020

Neural Networks and Applications参考文献 42被引用数 12

ひとこと要約

本稿では、エネルギーに基づくモデル（EBM）のためのフローベースのバックボーンを提案し、混合が向上する潜在空間における効率的なMCMCサンプリングを可能にする。EBMを正規化フロー上の指数的チルトとしてモデル化することにより、良好な混合を実現するサンプリングと安定した学習が可能となり、直接的なデータ空間におけるEBM学習で一般的に見られるモード崩壊問題を克服する。

ABSTRACT

Learning energy-based model (EBM) requires MCMC sampling of the learned model as the inner loop of the learning algorithm. However, MCMC sampling of EBM in data space is generally not mixing, because the energy function, which is usually parametrized by deep network, is highly multi-modal in the data space. This is a serious handicap for both the theory and practice of EBM. In this paper, we propose to learn EBM with a flow-based model serving as a backbone, so that the EBM is a correction or an exponential tilting of the flow-based model. We show that the model has a particularly simple form in the space of the latent variables of the flow-based model, and MCMC sampling of the EBM in the latent space, which is a simple special case of neural transport MCMC, mixes well and traverses modes in the data space. This enables proper sampling and learning of EBM.

研究の動機と目的

• エネルギーに基づくモデル（EBM）のデータ空間におけるMCMCサンプリングの混合が悪い問題に対処し、これにより学習とサンプリングの両方が制限されることを防ぐ。
• 正規化フローを事前分布として用いることで、EBM学習の実用的・理論的妥当性を向上させる。
• 潜在空間におけるMCMCを用いて、多モードのデータ分布の効果的なサンプリングと学習を可能にする。
• EBMをフローベースのモデル上の指数的チルトとして形式化し、潜在空間における学習目的関数を単純化する。

提案手法

• 正規化フローをベース分布として用い、EBMのバックボーンとして機能させ、構造的で整合性のある潜在空間を提供する。
• EBMをフロー・モデル上の指数的チルトとして定義し、エネルギー関数を潜在空間で学習する。
• フロー・モデルの潜在空間でMCMCサンプリングを実行し、幾何構造が単純で混合が速いことを利用する。
• 神経輸送MCMCを適用し、適応的にMCMCの提案をガイドする輸送写像を学習することで、混合をさらに向上させる。
• 潜在空間におけるMCMCを用いて勾配推定を行い、チルトされたフロー・モデル下でのデータの尤度を最適化することでEBMを学習する。
• フローの可逆性と取り扱いやすいヤコビアンを活用し、正確な尤度計算と効率的なサンプリングを実現する。

実験結果

リサーチクエスチョン

• RQ1 フローベースのモデルが、MCMC混合を改善するための安定したEBM学習のバックボーンとして機能できるか？
• RQ2 正規化フローの潜在空間でサンプリングすることで、多モードのデータ分布におけるモードカバレッジが向上するか？
• RQ3 神経輸送MCMCは、潜在空間におけるEBM学習に効果的に適用可能で、サンプリング効率を向上させられるか？
• RQ4 フロー・モデル上のEBMの指数的チルト定式化は、学習の簡素化と収束の向上にどのように寄与するか？

主な発見

• フローベースのモデルの潜在空間におけるMCMCサンプリングは、データ空間におけるものよりも著しく混合が良好であり、多モード分布の効果的な走査が可能になる。
• 本手法は、潜在空間の良好な幾何構造を活用することで、EBMの安定した学習を実現する。
• 指数的チルト定式化により、潜在空間で計算されたMCMC勾配を用いてEBMを効率的に学習できる。
• 神経輸送MCMCにより、潜在空間における混合がさらに向上し、収束が速まり、サンプル品質が向上する。