[論文レビュー] A general perspective on the Metropolis-Hastings kernel

Christophe Andrieu, Anthony Lee+1 more|arXiv (Cornell University)|Dec 29, 2020

Markov Chains and Monte Carlo Methods参考文献 60被引用数 11

ひとこと要約

この論文は、不変測度 μ、対合写像 φ、受容関数 a の三つ組み (μ, φ, a) を用いてメトロポリス・ハスティングスカーネルを構築する一般化された代数的枠組みを導入する。これにより、詳細平衡と π の不変性の体系的検証が可能となり、標準的な可逆サンプラーを超える複雑な MCMC アルゴリズムの設計と通信が簡素化される。正しさの証明は機械的で代数的なチェックに還元され、直感的でない導出を回避する。

ABSTRACT

Since its inception the Metropolis-Hastings kernel has been applied in sophisticated ways to address ever more challenging and diverse sampling problems. Its success stems from the flexibility brought by the fact that its verification and sampling implementation rests on a local ``detailed balance'' condition, as opposed to a global condition in the form of a typically intractable integral equation. While checking the local condition is routine in the simplest scenarios, this proves much more difficult for complicated applications involving auxiliary structures and variables. Our aim is to develop a framework making establishing correctness of complex Markov chain Monte Carlo kernels a purely mechanical or algebraic exercise, while making communication of ideas simpler and unambiguous by allowing a stronger focus on essential features -- a choice of embedding distribution, an involution and occasionally an acceptance function -- rather than the induced, boilerplate structure of the kernels that often tends to obscure what is important. This framework can also be used to validate kernels that do not satisfy detailed balance, i.e. which are not reversible, but a modified version thereof.

研究の動機と目的

• 複雑な MCMC シナリオにおけるメトロポリス・ハスティングスカーネルの構築と検証のための一般化された代数的枠組みを提供すること。
• ボイラープレート的なカーネル構造を抽象化することで、高度な MCMC アルゴリズムの設計とコミュニケーションを簡素化すること。
• 測度論的で機械的な手法を用いて、標準的でない非可逆カーネルの正しさの検証を可能にすること。
• 複数試行、遅延拒否、NUTS などの多様な MCMC 方式を、共通の理論的基盤の下に統合すること。
• 補助変数と複雑なプロポーザルを扱いやすくするために、埋め込み測度 μ、対合写像 φ、受容関数 a という本質的要素に焦点を当てること。

提案手法

• μ を拡張空間上の不変測度、φ を対合写像、a を受容関数とする三つ組み (μ, φ, a) によりメトロポリス・ハスティングスカーネル Π を定義する。
• 対合写像 φ を用いて候補状態を生成し、三つ組み枠組み下で詳細平衡条件が満たされることを保証する。
• μ の密度と φ による変換測度の密度比から代数的に受容率を導出し、恣意的な導出を回避する。
• 非可逆カーネルの検証に際して詳細平衡条件を一般化することで、非可逆プロポーザルの使用を可能にする。
• 停止時刻と二重無限マルコフ連鎖を用いて、NUTS やイベントチェーンアルゴリズムにおける複雑なプロポーザルをモデル化する。
• 補助変数を用いたスライスサンプリング戦略を導入し、ソフトポテンシャルを扱い、制約付き分布からの効率的サンプリングを可能にする。

実験結果

リサーチクエスチョン

• RQ1 複雑なメトロポリス・ハスティングスカーネルの正しさを体系的に検証するための一般化された枠組みはどのように構築できるか？
• RQ2 対合写像と受容関数の使用は、高度な MCMC アルゴリズムの設計とコミュニケーションをどのように簡素化できるか？
• RQ3 この枠組みは、標準的な詳細平衡を満たさない非可逆カーネルへと拡張可能か？
• RQ4 停止時刻と測度論的議論を用いて、NUTS に類似したサンプラーとイベントチェーンアルゴリズムにこの枠組みをどのように適用できるか？
• RQ5 補助変数とスライスサンプリングは、ソフト制約や複雑なターゲット分布への枠組みの拡張において果たす役割は何か？

主な発見

• 提案された枠組みにより、三つ組み (μ, φ, a) に対する機械的で代数的なチェックに還元されることで、詳細平衡の検証が機械的に行えるようになり、恣意的な導出の必要がなくなる。
• 詳細平衡条件を一般化することで、非可逆カーネルの検証に成功し、非可逆プロポーザルの使用が可能になる。
• 停止時刻を用いた二重無限マルコフ連鎖としてプロポーザルをモデル化することで、NUTS に類似したカーネルの構築が可能になる。
• 補助変数を用いたスライスサンプリングにより、ターゲット密度 γ(x) が制約の積として表現されるソフトポテンシャルを効率的に扱える。
• 硬い制約を伴う系では、現在の状態と候補状態が両方とも実行可能領域内にある場合、受容率 r1 が 1 に等しくなることが示され、意思決定ルールが単純化される。
• 二段階カーネルの第二段階における受容率が、衝突回数 |I|(x,v,i) と |I|(x,−v,j) の比に依存することを示し、これらは一般には等しくないため、正確な比の計算が不可欠であることが明らかになった。