[論文レビュー] Regeneration and Fixed-Width Analysis of Markov Chain Monte Carlo Algorithms

Krzysztof Łatuszyński|ArXiv.org|Jul 27, 2009

Markov Chains and Monte Carlo Methods参考文献 5被引用数 4

ひとこと要約

本稿は、マルコフ連鎖モンテカルロ（MCMC）推定量における再生に基づく固定幅および漸近的信頼区間手法を発展させ、再生条件の下で中心極限定理を確立し、一貫した分散推定のための仮定を緩和する。ドリフト条件の下で非漸近的固定幅の結果を提供し、パス安定性の下で適応的MCMCのほとんど確実収束を証明することで、有界性やコンパクト性の制約なしに一般状態空間における信頼性の高いMCMC推論の理論的基盤を前進させる。

ABSTRACT

In the thesis we take the split chain approach to analyzing Markov chains and use it to establish fixed-width results for estimators obtained via Markov chain Monte Carlo procedures (MCMC). Theoretical results include necessary and sufficient conditions in terms of regeneration for central limit theorems for ergodic Markov chains and a regenerative proof of a CLT version for uniformly ergodic Markov chains with $E_πf^2< \infty.$ To obtain asymptotic confidence intervals for MCMC estimators, strongly consistent estimators of the asymptotic variance are essential. We relax assumptions required to obtain such estimators. Moreover, under a drift condition, nonasymptotic fixed-width results for MCMC estimators for a general state space setting (not necessarily compact) and not necessarily bounded target function $f$ are obtained. The last chapter is devoted to the idea of adaptive Monte Carlo simulation and provides convergence results and law of large numbers for adaptive procedures under path-stability condition for transition kernels.

研究の動機と目的

• 定常マルコフ連鎖における中心極限定理（CLT）の再生に基づく必要十分条件を確立すること。
• MCMCにおける漸近分散の強一貫推定に要する仮定を緩和し、より弱いモーメント条件の下で信頼区間を構築可能にする。
• 有界な目標関数やコンパクト状態空間の仮定なしに、MCMC推定量の非漸近的固定幅信頼区間を導出すること。
• 適応的MCMC手順を分析し、遷移核のパス安定性の下でほとんど確実収束および大数の法則を証明すること。
• スプリット連鎖と再生技術を用いて、固定幅および漸近的推論枠組みを統合的かつ拡張すること。

提案手法

• スプリット連鎖と再生技術を用いてマルコフ連鎖をi.i.d.サイクルに分解し、MCMC推定量に再生理論を適用可能にする。
• 再生推定を用いて漸近分散の強一貫推定量を構築し、強いモーメントまたはミニマライゼーション仮定への依存を軽減する。
• ドリフト条件を用いて尾部挙動を制御し、固定幅信頼区間のための平均二乗誤差（MSE）の非漸近的バインドを導出する。
• 一般のエルゴディシティの下でMCMCサンプラーの収束速度を定量化するための$(\varepsilon-\alpha)$-近似フレームワークを導入する。
• ミキシングレ理論と$L^2$-有界性を用いて、核のパス安定性の下で適応的MCMC系列のほとんど確実収束を証明する。
• カップリングとカップリング時間の議論を用いて、分散制御および収束の証明における条件付き期待値の$L^2$-ノルムをバインドする。

実験結果

リサーチクエスチョン

• RQ1 一般のエルゴディックマルコフ連鎖における$\sqrt{n}$-CLTが成立するための再生に基づく必要十分条件は何か？
• RQ2 目標関数の2次のモーメントに強い仮定を課さずに、MCMC推定量の漸近的信頼区間をどのように構築できるか？
• RQ3 非コンパクト状態空間で有界でない関数を持つMCMC推定量に対して、非漸近的固定幅信頼区間を保証する条件は何か？
• RQ4 適応的MCMCアルゴリズムでほとんど確実収束および大数の法則を保証する条件は何か？
• RQ5 遷移核のパス安定性が適応的MCMC手順の収束にどのように影響するか？

主な発見

• 再生を用いた定常マルコフ連鎖における$\sqrt{n}$-CLTの完全な特徴付けが得られ、再生サイクルを用いた必要十分条件が提示された。
• $E_\pi f^2 < \infty$ の下で、一様エルゴディック連鎖におけるCLTの再生的証明が与えられ、MCMC推論の理論的基盤が強化された。
• 強一貫分散推定に要する仮定が緩和され、従来よりも弱いモーメント条件の下でも漸近的信頼区間が構築可能となった。
• ドリフト条件の下で、目標関数$f$が有界でなく、状態空間が非コンパクトであっても、MCMC推定量の非漸近的固定幅信頼区間が導出された。
• 適応的MCMCに対して、遷移核のパス安定性の下でほとんど確実収束および大数の法則が証明され、収束理論が適応的設定へ拡張された。
• 本稿は、ドリフト、再生、カップリングの組み合わせを用いて、MCMC系列における条件付き期待値の$L^2$-ノルムをバインドできることを確立し、推定誤差の均一制御をもたらした。