[論文レビュー] Peskun-Tierney ordering for Markov chain and process Monte Carlo: beyond the reversible scenario

Christophe Andrieu, Samuel Livingstone|arXiv (Cornell University)|Jun 14, 2019

Markov Chains and Monte Carlo Methods参考文献 55被引用数 8

ひとこと要約

この論文は、ヤグロム再帰性と等長的対合に基づく新しい作用素論的構造を導入することで、非可逆マルコフ連鎖およびプロセスモンテカルロ（MCMC）法におけるPeskun-Tierney順序枠組みを拡張する。可逆の場合と類似した性能比較結果を確立し、リフトド・メトロポリス・ハスティングス法や非可逆拡散過程といった非可逆サンプラーの厳密な解析を可能にするとともに、長年の予想を証明し、可逆性に依存しない既存結果の一般化を達成する。

ABSTRACT

Historically time-reversibility of the transitions or processes underpinning Markov chain Monte Carlo methods (MCMC) has played a key rôle in their development, while the self-adjointness of associated operators together with the use of classical functional analysis techniques on Hilbert spaces have led to powerful and practically successful tools to characterize and compare their performance. Similar results for algorithms relying on nonreversible Markov processes are scarce. We show that for a type of nonreversible Monte Carlo Markov chains and processes, of current or renewed interest in the Physics and Statistical literatures, it is possible to develop comparison results which closely mirror those available in the reversible scenario. We show that these results shed light on earlier literature, proving some conjectures and strengthening some earlier results.

研究の動機と目的

• 非可逆MCMCアルゴリズムの性能を比較する理論的枠組みを構築すること。非可逆手法は近年ますます使用されているが、可逆手法に比べて理解が不十分である。
• 従来、可逆連鎖に限定されていたPeskun-Tierney順序を、修正された詳細釣り合いに基づく新しい作用素構造を用いて非可逆過程へ一般化すること。
• 現在の理論の範囲外にあり、非可逆サンプラー（リフトド・メトロポリス・ハスティングス法、非可逆拡散過程など）の厳密な性能比較を提供すること。
• 非可逆MCMCにおける漸近分散と収束速度に関して、長年の予想を証明し、既存の結果を強化すること。
• 非可逆MCMCに関する既存の結果を統一・一般化し、共通の構造的性質を同定すること：遷移核の随伴作用素が等長的対合を含む合成として表現可能であること。

提案手法

• 遷移核Pがμ(x,v)P(x,v;y,w) = μ(y,w)QPQ(y,w;x,v)を満たす非可逆MCMCアルゴリズムの一般クラスを導入し、Qを等長的対合とすることで、非自己随伴作用素の枠組みを可能にする。
• 主要な構造的条件としてヤグロム再帰性を定義し、Pの随伴がQPQに等しく、Q² = Iを満たすようにすることで、自己随伴（可逆）の場合を超えた関数解析的手法の適用を可能にする。
• この構造を離散時間マルコフ連鎖および連続時間マルコフ過程の両方へ適用し、非可逆拡散過程やジャンプ過程への理論の拡張を実現する。
• 正則化された強度関数φε(r)を用いて遷移核を近似し、ε > 0のときφε(r) < 1であり、ε → 0のときφε(r) → φ₀(r)となるようにすることで、収束性と安定性を保証する。
• L²(μ)における収縮性と密度論的議論を用いて、正則化核PᵗεがPᵗに収束することを証明し、強い連続性と近似の妥当性を保証する。
• 半群理論やスペクトル境界といった関数解析の結果を応用し、Peskunの定理に類似した新しい順序による性能比較を導出する。

実験結果

リサーチクエスチョン

• RQ1 詳細釣り合いや自己随伴性が欠如する非可逆MCMCアルゴリズムに対しても、Peskun-Tierney型の順序を確立できるか？
• RQ2 非可逆MCMCにおける性能比較を可能にする構造的条件は何か？ これは可逆の場合をどのように一般化するか？
• RQ3 リフトド・メトロポリス・ハスティングス法は、この新しい枠組みを用いて厳密に解析され、他のサンプラーと比較可能か？
• RQ4 非可逆拡散過程やジャンプ過程は、拡張されたこの順序にどのように適合し、それらの理論的性質は何か？
• RQ5 非可逆MCMCにおける既存の予想や部分的な結果は、この新しい作用素論的アプローチを用いて形式的に証明または強化可能か？

主な発見

• 本論文は、非可逆MCMCアルゴリズムのクラスに対して、非可逆版のPeskun-Tierney順序を確立し、推定量の性能順序が非自己随伴作用素構造における核の作用によって決定されることを示した。
• リフトド・メトロポリス・ハスティングス法が新しい順序条件を満たすことを証明し、その効率性の向上に関する長年の予想を裏付けた。
• 非可逆サンプラーにおける推定量の漸近分散は、新しい枠組みを用いて厳密に比較・上限評価可能であり、[52]および[40]の結果を一般化した。
• 正則化核PᵗεがL²(μ)においてPᵗに収束することが確立され、誤差は−log(1 − [exp(ε)−1]¹ᐟ²)t‖f‖∞で有界である。これにより近似の安定性が保証された。
• 本手法により、[40]の結果がより広い設定で直接的かつ厳密に証明され、[37]の先行研究とも関連し、それらのフレームワークを非可逆過程へ一般化した。
• 理論は離散時間マルコフ連鎖および連続時間マルコフ過程の両方へ適用可能であり、同一の構造的原則の下で両分野の解析を統一した。