[論文レビュー] Variational Noise-Contrastive Estimation

Benjamin Rhodes, Michael U. Gutmann|arXiv (Cornell University)|Oct 18, 2018

Gaussian Processes and Bayesian Inference被引用数 5

ひとこと要約

この論文は、正規化定数が不明な潜在変数モデルにおける変分推論を可能にする、Variational Noise-Contrastive Estimation (VNCE) という新しい手法を紹介する。VNCE は NCE 目的関数に対する変分下界を定式化することで、完全なデータでない場合でも、最尤推定 (MLE) と同等の性能を達成しつつ、計算可能で最適化可能な目的関数を提供する。

ABSTRACT

Unnormalised latent variable models are a broad and flexible class of statistical models. However, learning their parameters from data is intractable, and few estimation techniques are currently available for such models. To increase the number of techniques in our arsenal, we propose variational noise-contrastive estimation (VNCE), building on NCE which is a method that only applies to unnormalised models. The core idea is to use a variational lower bound to the NCE objective function, which can be optimised in the same fashion as the evidence lower bound (ELBO) in standard variational inference (VI). We prove that VNCE can be used for both parameter estimation of unnormalised models and posterior inference of latent variables. The developed theory shows that VNCE has the same level of generality as standard VI, meaning that advances made there can be directly imported to the unnormalised setting. We validate VNCE on toy models and apply it to a realistic problem of estimating an undirected graphical model from incomplete data.

研究の動機と目的

• 正規化定数の計算が困難で、かつ潜在変数の周辺化も困難な、正規化定数が不明な潜在変数モデルに対する推定手法の欠如に取り組む。
• 変分推論 (VI) とノイズ対比推定 (NCE) という、別々のモデルクラスに適した成熟した手法の間のギャップを埋める。
• 正規化定数が不明なモデルにおいて、パラメータ推定と後方推論の両方をサポートする汎用フレームワークを開発し、標準的な VI と同等の理論的基盤を備える。
• 実用的で現実的な問題として、欠損データからの無向グラフィカルモデルの学習において、本手法の頑健性と実用的価値を示す。

提案手法

• NCE 目的関数に対する変分下界を提案し、標準的な VI における尤度下界 (ELBO) と同様の最適化を可能にする。
• 真の後方分布 $p({\mathbf{z}} \mid {\mathbf{x}}; \boldsymbol{\theta})$ の近似として、変分近似 $q({\mathbf{z}} \mid {\mathbf{x}}; \boldsymbol{\phi})$ を用い、モデルパラメータ $\boldsymbol{\theta}$ と変分パラメータ $\boldsymbol{\phi}$ を同時に最適化可能にする。
• VNCE 目的関数を、NCE 損失の計算可能で最適化可能な下界として定式化し、BFGS などの標準的ソルバーを用いた確率的最適化により最大化する。
• VNCE が真の後方分布と近似後方分布の間の f-発散度を最小化することを証明し、計算リソースが増加するにつれてこの発散度が KL 発散度に収束することを示す。
• Gibbs サンプリングを用いて評価を容易にし、スレッショルド処理を用いてグラフ構造の回復を実現することで、欠損データを伴う無向グラフィカルモデルに本手法を適用する。
• エッジ回復性能の評価として、受信者動作特性曲線 (ROC) の AUC を用い、VNCE を平均補完を用いた NCE およびモンテカルロ最尤推定 (MC-MLE) と比較する。

実験結果

リサーチクエスチョン

• RQ1 NCE 目的関数に対する変分下界を構築することで、正規化定数が不明な潜在変数モデルのエンドツーエンド学習が可能になるか？
• RQ2 データが欠損している状況下で、VNCE が MLE や NCE の理論的裏付けのある代替手法として機能するか？
• RQ3 VNCE は正規化定数が不明なモデルにおいて、効果的に後方推論を実行できるか？ また、その発散度最小化は標準的な VI と比べてどうか？
• RQ4 欠損データからのグラフィカルモデル構造回復において、VNCE は平均補完を用いた NCE や MC-MLE より優れた性能を示すか？
• RQ5 効率的なサンプリングが不可能な状況下で、VNCE が MLE の実用的で最適化可能な代替手法として機能できるか？

主な発見

• VNCE は、40% 以上のデータが欠損している場合に特に顕著に、平均補完を用いた NCE より優れた性能を示し、AUC が 0.5（ランダム推測）に近づくほど NCE の性能が著しく低下する。
• 適切な学習率チューニングにより、MC-MLE が最高の AUC を達成し、パラメータ推定におけるゴールドスタンダードであることを確認した。
• 非理想的なハイパーパramータ設定下でも、VNCE は MC-MLE と同等の性能を示し、頑健性と実用的妥当性を裏付けた。
• VNCE 目的関数は明確に定義されており、標準的最適化手法で最適化可能であり、交差検証や正則化に適している。これに対して MC-MLE は計算可能な目的関数を欠いている。
• VNCE は理論的整合性を保ち、計算リソースが増加するにつれて最小化する f-発散度が KL 発散度に収束する。
• 本手法は汎用的かつ拡張可能であり、標準的な VI における進歩は、VNCE を介して正規化定数が不明な設定へ直接応用可能である。