[論文レビュー] Nonasymptotic bounds on the estimation error for regenerative MCMC algorithms

Krzysztof Łatuszyński, Błażej Miasojedow+1 more|ArXiv.org|Jul 28, 2009

Markov Chains and Monte Carlo Methods参考文献 49被引用数 5

ひとこと要約

本稿では、再生マルコフ連鎖モンテカルロ（MCMC）アルゴリズムに基づくモンテカルロ推定量の平均二乗誤差（MSE）に対する非漸近的バウンドを提示する。再生サイクルと再生理論を活用することで、ドリフトおよびミニマライゼーション条件に依存する明示的かつ計算可能な誤差バウンドを導出し、幾何的および一様エルゴード性の下で、有界および非有界のターゲット関数に対し、漸近的近似よりもタイトな有限標本保証を提供する。

ABSTRACT

MCMC methods are used in Bayesian statistics not only to sample from posterior distributions but also to estimate expectations. Underlying functions are most often defined on a continuous state space and can be unbounded. We consider a regenerative setting and Monte Carlo estimators based on i.i.d. blocks of a Markov chain trajectory. The main result is an inequality for the mean square error. We also consider confidence bounds. We first derive the results in terms of the asymptotic variance and then bound the asymptotic variance for both uniformly ergodic and geometrically ergodic Markov chains.

研究の動機と目的

• 高次元および非有界関数設定におけるMCMC推定量の平均二乗誤差に対する明示的かつ非漸近的バウンドを提供すること。
• 未知の漸近的分散に依存しない、ドリフトおよびミニマライゼーションパラメータにのみ依存する計算可能な誤差バウンドを構築すること。
• 幾何的エルゴード性の下で非有界ターゲット関数に対して有限標本有効な信頼区間を構築できること。
• 提案されたバウンドを既存手法と比較し、ドービリン鎖に対して既知の指数不等式の約$40\beta$倍以内であることを示すこと。
• 再生構造に基づく逐次的再生推定量フレームワークを確立し、ほぼ固定された推移長さを維持しながら厳密な誤差制御を可能とすること。

提案手法

• 再生時刻によって定義されるマーカフ連鎖のi.i.d. ブロックを用い、再生理論およびウォルドの恒等式を適用する。
• 1ステップのミニマライゼーション条件と、$\pi$下での$f^{2+\delta}$の可積分性の下で、漸近的分散を用いたMSEの主要な不等式を導出する。
• 再生過程における超過寿命のルーデンの結果を応用し、再生サイクルの期待長さをバウンドし、MSEを制御する。
• 信頼区間推定のため、中央値の平均のトリックを用いて指数不等式を導出し、非漸近的信頼区間を得る。
• 一様エルゴード性の場合、漸近的分散は再生パラメータ$\beta$を用いてバウンドされ、既知の指数不等式に対して$40\beta$以内のバウンドが得られる。
• 幾何的エルゴード性の場合、小さな集合へのドリフト条件（仮定6.1）を用い、ドリフト関数$V$およびドリフトパラメータ$K$を用いて漸近的分散をバウンドする。

実験結果

リサーチクエスチョン

• RQ1 再生サンプリングを用いたMCMC推定量の非漸近的MSEバウンドは、どのように導出可能か？
• RQ2 未知の漸近的分散ではなく、ドリフトおよびミニマライゼーションパラメータにのみ依存する計算可能な誤差バウンドを表現できるか？
• RQ3 提案されたバウンドは、ドービリン鎖に対する既存の指数不等式と比べてどれほど鋭いか？
• RQ4 幾何的エルゴード性の下で非有界ターゲット関数に対して有効な非漸近的信頼区間を構築できるか？
• RQ5 再生構造は、MCMC推定量の有限標本性能にどのような影響を及えるか？

主な発見

• 本稿では、漸近的分散に依存する非漸近的MSEバウンドを導出し、1ステップのミニマライゼーション条件および$\mathbb{E}_\pi |f|^{2+\delta} < \infty$の下で有効であることを示した。
• 一様エルゴード性の下で、提案されたバウンドは、ドービリン鎖に対する既知の指数不等式の最大$40\beta$倍以内であり、$\beta$が小さい場合にはより鋭い。
• ドリフト関数$V$、$\lambda$、$\beta$、$K$を用いて、$\mathbb{E}_x \sum_{n=1}^{T-1} V(X_n)$のバウンドを確立し、これにより漸近的分散を制御した。
• 中央値の平均のトリックを用いて導出した信頼区間は、非有界関数に対しても有効であり、漸近的正規性に必要なより強いモーメント条件を必要としない。
• バウンドは、既知の量（ドリフト関数$V$、再生確率$\beta$、ドリフトパラメータ$K$）のみで表現されており、実用的・即時的な応用が可能である。
• 理論的結果は、分散成分モデルを用いて実証され、実際のベイズ設定においてバウンドのタイトさが示された。