[論文レビュー] Constructing sampling schemes via coupling: Markov semigroups and optimal transport

N. Nuesken, Grigorios A. Pavliotis|arXiv (Cornell University)|Jun 28, 2018

Markov Chains and Monte Carlo Methods参考文献 46被引用数 3

ひとこと要約

本稿では、カップリング技術を用いて効率的なマルコフ連鎖モンテカルロ（MCMC）サンプラーを構築する統一的な枠組みを提案し、それをマルコフ半群および最適輸送と結びつける。最適カップリングによる漸近的分散の最小化が、マルチマルチナル最適輸送問題に帰着されることを示し、新たなアンチシスティック変数法と、収束解析のための修正されたパーオカーレ不等式を導出する。

ABSTRACT

In this paper we develop a general framework for constructing and analysing coupled Markov chain Monte Carlo samplers, allowing for both (possibly degenerate) diffusion and piecewise deterministic Markov processes. For many performance criteria of interest, including the asymptotic variance, the task of finding efficient couplings can be phrased in terms of problems related to optimal transport theory. We investigate general structural properties, proving a singularity theorem that has both geometric and probabilistic interpretations. Moreover, we show that those problems can often be solved approximately and support our findings with numerical experiments. For the particular objective of estimating the variance of a Bayesian posterior, our analysis suggests using novel techniques in the spirit of antithetic variates. Addressing the convergence to equilibrium of coupled processes we furthermore derive a modified Poincaré inequality.

研究の動機と目的

• 拡散過程および区分的決定的過程の両方の文脈において、結合されたマルコフ連鎖モンテカルロ（MCMC）サンプラーの構築と分析の一般枠組みを構築すること。
• 性能基準（例えば漸近的分散）の最適化が、最適輸送理論の問題に帰着されることを示すこと。
• 結合された過程の平衡分布への収束を分析するための修正されたパーオカーレ不等式を導出すること。
• ベイズ後測度推定における分散低減を目的とした、アンチシスティック変数に類似した新たなサンプリング技法を提案すること。
• 拡散過程および区分的決定的過程の両方において、カップリング空間に現れる構造的性質（例えば特異性定理）を確立すること。

提案手法

• 固定された周辺分布を持つ積空間上に結合されたマルコフ過程を定式化し、無限小生成作用素を用いてカップリングのダイナミクスを特徴付ける。
• 分散最小化問題をマルチマルチナル最適輸送問題として再定式化し、解析的および数値的解法の可能性を高める。
• マルコフ半群理論を応用して、結合された過程のエルゴディシティおよび不変測度への収束を分析する。
• 結合された過程が平衡分布に収束する速度を定量化するための修正されたパーオカーレ不等式を導出する。
• カップリング生成作用素のポアソン方程式を用いて、漸近的分散を輸送関連方程式の解の形で表現する。
• ロピタルの定理および可積分性条件を用いて、解の境界挙動を分析し、カップリング枠組みの適切な定式化を保証する。

実験結果

リサーチクエスチョン

• RQ1 カップリング技術をどのように体系的に用いることで、MCMCサンプリングにおける漸近的分散を低減できるか？
• RQ2 最適輸送の原則は、マルコフ過程のための効率的カップリングの構築をどのように規定するか？
• RQ3 拡散過程および区分的決定的過程の両方において、カップリング空間に現れる構造的性質（例えば特異性定理）は何か？
• RQ4 結合された過程の平衡分布への収束はどのように定量化可能であり、どのような新しい不等式が導かれるか？
• RQ5 カップリング枠組みから、ベイズ推論におけるサンプリング効率を向上させる、アンチシスティック変数に類似した新たな手法を導出可能か？

主な発見

• 結合されたサンプラーの漸近的分散は、マルチマルチナル最適輸送問題の解に対応するカップリングである場合に最小化される。
• 特異性定理が確立され、効率的カップリングの構造に幾何学的および確率論的制約が存在することが明らかになった。
• 本枠組みにより、ベイズ後測度の分散推定に向けた新たなアンチシスティック変数的手法が構築可能となり、計算コストを増加させることなく分散を低減できる。
• 修正されたパーオカーレ不等式が導出され、結合された過程が平衡分布に収束する速度に対する定量的バインドが得られた。
• 数値実験により理論的結果が裏付けられ、最適輸送問題の近似解が、分散を低減する効果的なカップリングをもたらすことが示された。
• ポアソン方程式の解の境界挙動が厳密に分析され、ポテンシャル関数にやや弱い条件を課すだけで、可積分性および一意性が保証された。