[論文レビュー] Vertical-likelihood Monte Carlo

Nicholas G. Polson, James G. Scott|arXiv (Cornell University)|Sep 11, 2014

Markov Chains and Monte Carlo Methods参考文献 31被引用数 4

ひとこと要約

この論文は、提案密度を直接指定するのではなく、尤度 ordinate（尤度の値）の分布を指定することによって重要度サンプリングの提案を設計する、垂直尤度モンテカルロを導入する。これは、ネストド・サブセット、スライス・サブセット、シミュレーテッド・テンペアリングなど7つの主要なモンテカルロ手法—を一つの視点で統一するフレームワークであり、再重み付けされたスライス・サブセットによる収束の向上を示し、尤度 ordinate の分布を通じてネストド・サブセットの新たな解釈を提供する。

ABSTRACT

In this review, we address the use of Monte Carlo methods for approximating definite integrals of the form $Z = \int L(x) d P(x)$, where $L$ is a target function (often a likelihood) and $P$ a finite measure. We present vertical-likelihood Monte Carlo, which is an approach for designing the importance function $g(x)$ used in importance sampling. Our approach exploits a duality between two random variables: the random draw $X \sim g$, and the corresponding random likelihood ordinate $Y\equiv L(X)$ of the draw. It is natural to specify $g(x)$ and ask: what is the the implied distribution of $Y$? In this paper, we take up the opposite question: what should the distribution of $Y$ be so that the implied importance function $g(x)$ is good for approximating $Z$? Our answer turns out to unite seven seemingly disparate classes of algorithms under the vertical-likelihood perspective: importance sampling, slice sampling, simulated annealing/tempering, the harmonic-mean estimator, the vertical-density sampler, nested sampling, and energy-level sampling (a suite of related methods from statistical physics). In particular, we give an alterate presentation of nested sampling, paying special attention to the connection between this method and the vertical-likelihood perspective articulated here. As an alternative to nested sampling, we describe an MCMC method based on re-weighted slice sampling. This method's convergence properties are studied, and two examples demonstrate the promise of the overall approach.

研究の動機と目的

• 尤度 ordinate の分布に基づく一貫した概念的枠組みを用いて、重要度サンプリング、スライス・サブセット、ネストド・サブセットなどの多様なモンテカルロ手法を統一すること。
• ベイズ的モデル選択における marginal likelihood 評価のための効率的な重要度サンプリングの提案を設計する課題に対処すること。
• 最適または近似的に最適なサンプリング効率をもたらすように、尤度 ordinate 値の分布を決定する原理的なアプローチを提供すること。
• ネストド・サブセットを垂直尤度モンテカルロの特殊ケースとして再定式化し、その理論的基盤と実装における新たな洞察を提供すること。
• 高次元問題における実用的応用を想定した、収束性が保証された再重み付けスライス・サブセット MCMC 法の開発

提案手法

• この手法は、提案密度 $ g(x) $ を直接指定する代わりに、尤度 ordinate $ Y = L(X) $ の分布を制御する重み関数 $ w(u) $ を用いて、重要度サンプリングの提案を暗黙的に定義する。
• ランダムサンプル $ X \sim g $ と尤度 ordinate $ Y = L(X) $ の間に双対性を確立し、$ Y $ の分布の選択が $ g(x) $ を暗黙的に定義できることを可能にする。
• 尤度 $ Z = \int L(x)\, dP(x) $ の推定に適した $ g(x) $ を得るために、スコア関数ヒューリスティックを用いて重み関数 $ w(u) $ の選択をガイドする。
• スライス内のサンプルを抽出し、重み関数 $ w(u) $ に従って再重み付けする再重み付けスライス・サブセットアルゴリズムを提案し、正しいターゲット分布を持つ MCMC サンプリングを可能にする。
• ネストド・サブセットへの応用では、その逐次的サンプリング機構を垂直尤度構成として再解釈し、尤度 ordinate の分布との内在的関係を明らかにする。
• MCMC 法の理論的収束性を分析し、低次元および高次元の設定においてその有効性を数値例で示す。

実験結果

リサーチクエスチョン

• RQ1 尤度 ordinate の分布を用いて、marginal likelihood 評価のための効率的な重要度サンプリングの提案を設計する方法は何か？
• RQ2 ネストド・サブセットと垂直尤度の視点との理論的関係は何か？ そして、その関係をどのようにしてサンプリング効率の向上に活用できるか？
• RQ3 スライス・サブセット、シミュレーテッド・テンペアリング、調和平均推定器といった、見た目は異なるモンテカルロ手法を統一するフレームワークは可能か？
• RQ4 垂直尤度フレームワークにおいて、最適または近似的に最適なサンプリング効率をもたらす重み関数 $ w(u) $ は何か？
• RQ5 このフレームワークに基づく再重み付けスライス・サブセット MCMC 法は、高次元問題において標準的手法と比較してどのように性能を発揮するか？

主な発見

• 垂直尤度の視点により、重要度サンプリング、スライス・サブセット、シミュレーテッド・テンペアリング、調和平均推定器、垂直密度サンプリング、エネルギー・レベル・サンプリング、ネストド・サブセットの7つの主要なモンテカルロ手法が、一つの概念的枠組みで統一される。
• ネストド・サブセットは垂直尤度モンテカルロの特殊ケースとして再解釈され、その逐次的サンプリング機構が尤度 ordinate の分布の特定の選択に対応することが示された。
• 提案された再重み付けスライス・サブセット MCMC 法は良好な収束性を示し、標準的手法が失敗する50次元の問題においても marginal likelihood を正しく推定できた。
• Kummer の発散超幾何関数を解析的ベンチマークとして用い、高次元の多変量t分布の例においても、marginal likelihood の正確な推定が達成された。
• 適応的 Wang–Landau アルゴリズムがこのフレームワークと整合することを示し、エネルギー・レベルの均一な探索を達成するために尤度 ordinate の分布を暗黙的に学習していることが明らかになった。
• 理論的分析により、提案手法の収束が弱い正則性条件のもとで保証されることを確認し、スコア関数ヒューリスティックが重み関数 $ w(u) $ の選択を原理的に行う手段を提供することがわかった。