[論文レビュー] MCMC for doubly-intractable distributions

Iain Murray, Zoubin Ghahramani+1 more|arXiv (Cornell University)|Jun 27, 2012

Model Reduction and Neural Networks参考文献 15被引用数 260

ひとこと要約

本論文は、Møllerら（2004）の補助変数法を拡張することで、尤度と事後分布の両方に不変定数が含まれる二重に不変な分布に対する、新しいMCMCアルゴリズムを提案する。より効率的なサンプリングスキームにより、事前推定を必要とせず、未規格化密度を伴う指数型分布族における正確な推論を可能にする。

ABSTRACT

Markov Chain Monte Carlo (MCMC) algorithms are routinely used to draw samples from distributions with intractable normalization constants. However, standard MCMC algorithms do not apply to doubly-intractable distributions in which there are additional parameter-dependent normalization terms; for example, the posterior over parameters of an undirected graphical model. An ingenious auxiliary-variable scheme (Moeller et al., 2004) offers a solution: exact sampling (Propp and Wilson, 1996) is used to sample from a Metropolis-Hastings proposal for which the acceptance probability is tractable. Unfortunately the acceptance probability of these expensive updates can be low. This paper provides a generalization of Moeller et al. (2004) and a new MCMC algorithm, which obtains better acceptance probabilities for the same amount of exact sampling, and removes the need to estimate model parameters before sampling begins.

研究の動機と目的

• 尤度と事後分布の両方に不変定数が含まれるモデルにおけるベイズ推論の課題に対処すること。
• 二重に不変なターゲットに対して既存の補助変数MCMC手法に内在する低い受容確率を克服すること。
• 事前推定を伴わない、従来の手法の制限を解消すること。
• 未規格化密度を伴う指数型分布族や無向グラフィカルモデルに一般に適用可能なMCMCアルゴリズムの開発。
• メトロポリス・ハスティングス更新における正確なサンプリングステップの受容確率を向上させることで、計算効率を向上させること。

提案手法

• Møllerら（2004）の補助変数スキームを、パラメータに依存する提案分布を許容するように適応する。
• 正確なサンプリング（過去からの結合）を用いて、提案分布からの完全なサンプルを生成し、取り扱い可能な受容確率を保証する。
• 現在のパラメータ値に条件づけられた新しい提案メカニズムを導入し、不変定数を相殺する補助変数を用いる。
• 補助変数の構成により、正規化定数の比がキャンセルされるため、メトロポリス・ハスティングスの受容ステップを実現する。
• 事前パラメータ推定を必要とせず、直接的に事後分布のサンプリングを可能にするようにアルゴリズムを設計する。
• 適切なマルコフ核の構築により、詳細平衡を維持し、真の事後分布への収束を保証する。

実験結果

リサーチクエスチョン

• RQ1 二重に不変な事後分布に対して、既存の補助変数手法よりも高い受容確率を達成できるMCMCアルゴリズムを設計できるか？
• RQ2 未規格化指数型分布族モデルにおいて、MCMCのサンプリングを開始する前にパラメータを事前に推定する必要をなくすことは可能か？
• RQ3 正確なサンプリングをメトロポリス・ハスティングスフレームワークに統合することで、尤度と事後分布の両方に不変定数が含まれる状況をどのように扱えるか？
• RQ4 補助変数の構成にどのような変更を加えると、二重に不変な推論問題における混合と収束を改善できるか？
• RQ5 提案手法は、未規格化密度を伴う広範なクラスの無向グラフィカルモデルに一般化可能か？

主な発見

• 同じ程度の正確なサンプリングを要する場合、本手法はMøllerら（2004）の元来の補助変数法よりも顕著に高い受容確率を達成する。
• 本手法は、サンプリングの前にモデルパラメータを推定する必要をなくし、未規格化密度を伴う指数型分布族モデルにおける直接的な事後分布推論を可能にする。
• アルゴリズムは詳細平衡を維持し、真の事後分布への確実収束を保証する。
• 実験結果により、イジングモデルやポッツモデルなどのベンチマークモデルにおいて、混合性の向上と収束の高速化が確認された。
• 本手法は一般性を有し、不変定数が含まれる広範なクラスの無向グラフィカルモデルに適用可能である。
• 標準的なMCMCが不変定数の項の不変性のために失敗するモデルにおいても、正確なベイズ推論を可能にする。