[論文レビュー] Accurate and Conservative Estimates of MRF Log-likelihood using Reverse Annealing

Yuri Burda, Roger Grosse+1 more|arXiv (Cornell University)|Dec 30, 2014

Bayesian Methods and Mixture Models参考文献 22被引用数 18

ひとこと要約

本稿では、標準のアンネーリング重要度サンプリング（AIS）と同一のMCMC遷移演算子を用いる逆アニーリングを用いて、近似マルコフ確率場（MRF）モデルの対数尤度の確率的下界を提供する、逆AIS推定器（RAISE）を提案する。RAISEは、両者が併用された場合にAISとよく一致する保守的で正確な推定値を提供し、AIS結果における過剰な楽観的推定を検出できる実用的手法として、MRF尤度推定値の妥当性を検証可能にする。

ABSTRACT

Markov random fields (MRFs) are difficult to evaluate as generative models because computing the test log-probabilities requires the intractable partition function. Annealed importance sampling (AIS) is widely used to estimate MRF partition functions, and often yields quite accurate results. However, AIS is prone to overestimate the log-likelihood with little indication that anything is wrong. We present the Reverse AIS Estimator (RAISE), a stochastic lower bound on the log-likelihood of an approximation to the original MRF model. RAISE requires only the same MCMC transition operators as standard AIS. Experimental results indicate that RAISE agrees closely with AIS log-probability estimates for RBMs, DBMs, and DBNs, but typically errs on the side of underestimating, rather than overestimating, the log-likelihood.

研究の動機と目的

• MRFにおけるアンネーリング重要度サンプリング（AIS）の信頼性の低さに起因する、分割関数の過小評価に起因する対数尤度の過剰推定を是正すること。
• AIS結果の楽観的傾向を検出できるように、MRF対数尤度の保守的（下界）推定を提供する手法の開発。
• 標準のMCMC遷移演算子のみを用いるため、既存のモデルと互換性を持つ、実装が容易な推定器の開発。
• RBM、DBM、DBNなどの深層生成モデルの信頼性ある評価を可能にするために、AISとは補完的な推定器を提供すること。

提案手法

• RAISEは、適切に選ばれた提案分布を用いた逆アニーリングを用いて、近似MRFモデルの対数尤度の確率的下界を計算する。
• 標準AISで用いられる同じMCMC遷移演算子を活用することで、実装コストを最小限に抑える。
• 不規則化モデル確率に基づく制御変数を用いた重要度サンプリングにより、推定の安定性を向上させる。
• DBM や DBN のようなモデルでは、平均場法または認識ネットワークの提案分布を用いた重要度サンプリングにより、不規則化確率を推定する。
• 推定器はテストデータに適用され、AIS結果と比較可能な保守的な対数尤度推定値を生成する。
• RAISE（下界）とAIS（上界）の一致は、真の対数尤度値に両者とも近いという高い信頼性を示す。

実験結果

リサーチクエスチョン

• RQ1 標準のMCMC遷移演算子（AISと同一）のみを用いて、MRF対数尤度の確率的下界を構築可能か？
• RQ2 提案された逆AIS推定器（RAISE）は、AISで一般的に見られる楽観的推定を避ける保守的推定を一貫して提供するか？
• RQ3 RBM、DBM、DBN といった実世界のモデルにおいて、RAISEとAISの推定値はどの程度一致するか？
• RQ4 RAISEとAISの一致は、MRFにおける尤度推定値の正確性を検証する実用的診断法として有効か？

主な発見

• 正確な分割関数計算が可能な小さなRBMでは、RAISEの推定値が真の対数尤度とよく一致し、その正確性が検証された。
• 本格的なサイズのRBM、DBM、DBNにおいて、K=100,000の条件下でRAISE推定値がAIS推定値と1ナット以内で一致し、高い一貫性を示した。
• RAISEは一貫して保守的推定を提供し、10個のテストモデルのうち9つでAISの最小推定値以下に位置し、下界性が確認された。
• Omniglot DBMでは、RAISEが6.38ナット過剰推定したが、これはアンネーリングモデルがデータにDBMよりもよく適合している可能性を示唆し、RAISEがモデル適合不良を検出できる能力を示している。
• すべてのケースにおいて、RAISE（下界）とAIS（上界）の一致が、両者とも真の値に近いという強い証拠を提供した。
• 本手法は実装が単純で、標準のMCMC演算子のみを必要とするため、深層生成モデルにおけるMRFの評価に実用的なツールである。