[論文レビュー] Maximal couplings of the Metropolis-Hastings algorithm

John R. O’Leary, Guanyang Wang+1 more|arXiv (Cornell University)|Oct 16, 2020

Markov Chains and Monte Carlo Methods参考文献 36被引用数 5

ひとこと要約

この論文は、メトロポリス・ハスティングス法における最大カップリングを導入し、カップリング不等式で定義される1ステップの一致確率の理論的上限に達する。標準的なMH仮定の下で実装可能でありながら、一致の確率を最大化するための連合提案および受容分布を構築することで、著者たちは3つの新しいカップリングアルゴリズム—$ar{P}_{ΔΜ}$、$ar{P}_{ΔΡ}$、および$ar{P}_{ΔΣ}$—を提示し、従来の手法と比較して収縮性および一致時間の面で顕著な改善を実現する。

ABSTRACT

Couplings play a central role in the analysis of Markov chain Monte Carlo algorithms and appear increasingly often in the algorithms themselves, e.g. in convergence diagnostics, parallelization, and variance reduction techniques. Existing couplings of the Metropolis-Hastings algorithm handle the proposal and acceptance steps separately and fall short of the upper bound on one-step meeting probabilities given by the coupling inequality. This paper introduces maximal couplings which achieve this bound while retaining the practical advantages of current methods. We consider the properties of these couplings and examine their behavior on a selection of numerical examples.

研究の動機と目的

• メトロポリス・ハスティングス法における理論的上限と実装手法の間のギャップを埋める。
• カップリング不等式によって制約される、可能な限り高い1ステップ一致確率を達成する実装可能なカップリングを開発する。
• 収縮性および一致時間の向上を通じて、収束診断、並列処理、分散低減を改善する。
• 提案カップリング戦略と受容カップリングの相互作用が、最大カップリング性能に与える影響を調査する。
• 高次元およびマルチモーダルなターゲット分布における最大カップリングの実効的性能を評価する。

提案手法

• 提案分布と受容インジケーターを同時にカップリングすることで、各ステップで状態の一致確率を最大化する枠組みを提案し、MH遷移カーネルの最大カップリングを構築する。
• 3つのカップリングアルゴリズムを導入：$ar{P}_{ΔΜ}$ は提案の最大反射カップリングに基づく、$ar{P}_{ΔΡ}$ は既存手法のヒューリスティックな拡張、$ar{P}_{ΔΣ}$ は収縮性を向上させた改良版である。
• カップリング不等式をベンチマークとして用いる：最大カップリングは $ℓ(X=Y) = 1 - \|\mu - \nu\|_{ΤΒ}$ を達成し、一致確率の理論的上限に一致する。
• 収縮性を最大化するため、提案分布に反射カップリング ($ar{Q}_{ΔΜ}$) を用い、同時に受容ステップと整合性を持つように、受容インジケーターの連合ベルヌーイカップリングを実施する。
• 独立および従属のカップリング戦略の両方を適用し、提案の最大カップリングが収縮性を向上させ、一致確率を高めることを示す。
• 正規分布ターゲットおよび高次元ガウスターゲットを用いた数値実験により、一致時間と収縮行動を比較して、手法の妥当性を検証する。

実験結果

リサーチクエスチョン

• RQ1 実装可能なメトロポリス・ハスティングスカーネルのカップリングは、1ステップ一致確率の理論的上限に達することができるか？
• RQ2 異なる提案カップリング戦略（例：反射対独立）は、MHカップリングにおける収縮性および一致時間にどのように影響を与えるか？
• RQ3 カップリングの最大性は、収束診断および分散低減の分野でどの程度の性能向上に繋がるか？
• RQ4 高次元設定において、最大カップリングは、一致時間および収縮率の面で標準的カップリングを上回るか？
• RQ5 追加の知識（提案の抽出、密度評価、受容率）を除き、標準的なMH仮定に依存する範囲で最大カップリングを構築可能か？

主な発見

• 提案された最大カップリング ($\bar{P}_{ΔΜ}$、$\bar{P}_{ΔΡ}$、$\bar{P}_{ΔΣ}$) は、カップリング不等式によって保証される理論的上限に達し、1ステップ一致確率の上限に一致する。
• 高次元例（$d=100$）において、$ar{P}_{ΔΜ}$ および $ar{P}_{ΔΡ}$ は $ar{Q}_{ΔΜ}$ を用いて、一致が可能になる領域へ急速に収縮するが、他のカップリングは収縮が著しくない。
• $ar{P}_{ΔΡ}$ が $ar{Q}_{ΔΜ}$ を用いる場合、同じ提案カップリングを用いる $ar{P}_{ΔΣ}$ よりも収縮が速く、高次元において優れた性能を示す。
• 独立またはほぼ独立な $X,Y$ ペair（例：$ar{P}_{ΔΘ}$）に基づくカップリングは、収縮がほとんどなく、一致確率も著しく低い。
• 提案および受容メカニズムが整合している場合、最大カップリングは、一致時間および収縮性の面で、標準的カップリングを顕著に上回る。
• 結果から、最大性は反射カップリングのような強力な収縮戦略と組み合わせた場合に最も効果的であり、最大性そのものだけでは速い一致を保証しないことが示唆される。