[論文レビュー] To Relieve Your Headache of Training an MRF, Take AdVIL

Chongxuan Li, Chao Du+4 more|arXiv (Cornell University)|Jan 24, 2019

Gaussian Processes and Bayesian Inference参考文献 47被引用数 5

ひとこと要約

AdVILは、潜在変数推論用の変分エンコーダと、対数パーティション関数推定用の変分デコーダを備えた2つの変分分布を用いるミニマックス最適化フレームワークを用いて、マーコフ確率場（MRFs）のブラックボックス変分推論および学習手法を提案する。NVIL や対照的勾配法と比較して、特にディープボルツマンマシンのような複雑なモデルにおいて、よりタイトな対数パーティション関数推定と優れた尤度性能を達成する。

ABSTRACT

We propose a black-box algorithm called {\it Adversarial Variational Inference and Learning} (AdVIL) to perform inference and learning on a general Markov random field (MRF). AdVIL employs two variational distributions to approximately infer the latent variables and estimate the partition function of an MRF, respectively. The two variational distributions provide an estimate of the negative log-likelihood of the MRF as a minimax optimization problem, which is solved by stochastic gradient descent. AdVIL is proven convergent under certain conditions. On one hand, compared with contrastive divergence, AdVIL requires a minimal assumption about the model structure and can deal with a broader family of MRFs. On the other hand, compared with existing black-box methods, AdVIL provides a tighter estimate of the log partition function and achieves much better empirical results.

研究の動機と目的

• モデル固有の解析を回避する一般化されたマーコフ確率場（MRFs）のブラックボックス推論および学習手法の開発を目的とする。
• 既存手法の限界、特にパーティション関数の推定精度の低さとモデル構造依存性を是正することを目的とする。
• NVILを改善し、対数パーティション関数のよりタイトな下界を提供するとともに、MRFの推論問題を解決することを目的とする。
• 確率的勾配降下法を用いて、潜在変数を有する非方向的モデルのエンドツーエンド学習を可能とすることを目的とする。
• ディープボルツマンマシンのような複雑なMRFにおいて、対照的勾配法やNVILを凌駕する実験的性能を達成することを目的とする。

提案手法

• AdVILは2つの変分分布を用いる：潜在変数の事後分布を近似するための変分エンコーダと、パーティション関数を推定するための変分デコーダ。
• 手法は、自由エネルギーの上界と下界を組み合わせることで、負の対数尤度をミニマックス最適化問題として定式化する。
• 変分デコーダは補助変数を導入して柔軟性を向上させ、エントロピーは第3の変分トリックを用いて近似する。
• トレーニングはエンコーダとデコーダの間で交互に確率的勾配降下法を適用し、GANに類似した目的関数を模倣する。
• フレームワークは、生成のための効率的な祖先サンプリングをサポートし、モデル固有の導出を必要としないブラックボックス学習を可能にする。
• 理論的収束性は、変分デコーダが真のモデルを十分に近似できるという条件下で証明されている。

実験結果

リサーチクエスチョン

• RQ1 モデル固有の解析を回避し、エンドツーエンド学習を可能にするMRF用のブラックボックス手法を開発できるか？
• RQ2 NVILが推定不足に苦しむのと比較して、対数パーティション関数のよりタイトな下界を達成できるか？
• RQ3 ミニマックス変分フレームワークは、ディープボルツマンマシンのような複雑なMRFにおいて対数尤度性能を向上させられるか？
• RQ4 変分分布にエントロピー項を組み込むことで、モデルの収束性と生成品質にどのような影響を与えるか？
• RQ5 パーティション関数が計算不能な非方向的モデルに、敵対的学習の原則を効果的に適応できるか？

主な発見

• AdVILは、すべてのデータセットにおいてNVILより顕著に優れた対数尤度結果を達成し、特にD提起データセットでは平均1.02 natsの向上を示した。
• D提起データセットでは、階層的デコーダを用いたAdVILがテストNLL -27.89を達成し、VCDの-28.49を上回り、最良のベースラインと同等の性能を発揮した。
• RBMでは、AdVILがD提起データセットで平均AIS結果-26.34 natsを達成したのに対し、NVILは-27.36 natsであった。これは、よりタイトな対数パーティション関数推定を示している。
• NADEデコーダを用いたAdVILは、階層的デコーダと比較してわずかに性能が悪く、不安定な挙動を示した。これは、補助変数構造の重要性を示している。
• アブレーションスタディの結果、変分分布からエントロピー項を削除すると、モード崩壊が発生し、意味のあるサンプルの生成に失敗することが確認された。
• AdVILのミニマックス最適化はVCDに比べて学習曲線がやや不安定であったが、特にDBMのような深層モデルにおいて、最終的な性能が優れていた。