[論文レビュー] Complexity Bounds for MCMC via Diffusion Limits

Gareth O. Roberts, Jeffrey S. Rosenthal|arXiv (Cornell University)|Nov 3, 2014

Markov Chains and Monte Carlo Methods参考文献 27被引用数 5

ひとこと要約

本稿は、マーカフチェーンモンテカルロ（MCMC）における拡散極限結果とアルゴリズム的複雑性境界を正式に結びつける。弱収束がKantorovich-Rubinstein（KR）距離における収束時間複雑性を示すことを示し、標準的仮定の下で次元 $d$ が増加する際、ランダムウォークメトロポリス法は $O(d)$ 回の反復で収束し、メトロポリス補正ラングジュアン法は $O(d^{1/3})$ 回の反復で収束することを証明する。

ABSTRACT

We connect known results about diffusion limits of Markov chain Monte Carlo (MCMC) algorithms to the Computer Science notion of algorithm complexity. Our main result states that any diffusion limit of a Markov process implies a corresponding complexity bound (in an appropriate metric). We then combine this result with previously-known MCMC diffusion limit results to prove that under appropriate assumptions, the Random-Walk Metropolis (RWM) algorithm in $d$ dimensions takes $O(d)$ iterations to converge to stationarity, while the Metropolis-Adjusted Langevin Algorithm (MALA) takes $O(d^{1/3})$ iterations to converge to stationarity.

研究の動機と目的

• MCMCの拡散極限理論とコンピュータサイエンスにおける複雑性解析の間のギャップを埋めること。
• 拡散極限結果が高次元状態空間における明確な収束時間複雑性境界を示すことの証明。
• Kantorovich-Rubinstein距離を用いて、RWM や MALA のような広く使われる MCMC アルゴリズムの厳密な複雑性境界を提供すること。
• 拡散極限結果が存在するにもかかわらず、MCMC文献における明示的な複雑性境界の欠如に対処すること。
• 弱収束結果をアルゴリズム的複雑性の主張に変換するためのフレームワークを確立すること。

提案手法

• 収束の測定にKantorovich-Rubinstein（KR）距離を用い、弱収束をメトライズし、拡散極限に適している。
• スケーリングされたMCMCプロセスの弱収束を、既知のRobertsら（1997年）およびRobertsとRosenthal（1998年）の結果を用いて、限界拡散過程に適用する。
• 有限次元プロセス $X^{(d)}_t$ が限界拡散 $X^{(rown)}_t$ に弱収束するならば、時間にわたるKR距離の定常分布への収束が一様に成立することを証明する。
• 定常状態における期待KR距離の非増加性を用いて、すべての $t \geq T$ における収束を保証する。
• 収束の法則と測度の連続性および一様な境界を組み合わせ、三角不等式を用いて複雑性境界を導出する。
• 既存のRWMおよびMALAの拡散極限結果と組み合わせることで、主定理を特定のアルゴリズムに適用する。

実験結果

リサーチクエスチョン

• RQ1 MCMCにおける拡散極限結果を用いて、高次元における明示的なアルゴリズム的複雑性境界を導出できるか？
• RQ2 MCMCアルゴリズムが拡散過程に弱収束することは、KR距離における対応する収束時間複雑性を示唆するか？
• RQ3 ランダムウォークメトロポリス法の $d$ 次元における漸近的収束時間複雑性は何か？
• RQ4 メトロポリス補正ラングジュアン法の $d$ 次元における漸近的収束時間複雑性は何か？
• RQ5 KR距離距離は、一般状態空間MCMCにおける複雑性解析において、全変動距離の強力な代替手段として機能できるか？

主な発見

• 主な理論的貢献は、任意のマコフ過程の拡散極限が、Kantorovich-Rubinstein距離における対応する複雑性境界を示す一般定理の確立である。
• ランダムウォークメトロポリス法に関しては、高次元における定常分布への収束に $O(d)$ 回の反復が必要であるという複雑性境界を確立する。
• メトロポリス補正ラングジュアン法に関しては、標準的仮定の下で $O(d^{1/3})$ 回の反復で収束するという複雑性境界を証明する。
• 初期分布を定常測度から抽出した上での期待値についての収束が、期待KR距離の非増加性を用いて確立される。
• 既知の拡散極限結果と、弱収束および測度の連続性に基づく新しい収束議論を組み合わせることで、結果が導出される。
• このフレームワークにより、漸近的拡散結果を有限標本の複雑性境界に翻訳でき、コンピュータサイエンスの複雑性解析に適用可能になる。