[論文レビュー] Effective limit theorems for Markov chains with a spectral gap

Benoît Kloeckner|arXiv (Cornell University)|Mar 28, 2017

Markov Chains and Monte Carlo Methods参考文献 10被引用数 5

ひとこと要約

本稿は、任意のバナッハ関数空間 $\mathscr{X}$ におけるスペクトルギャップを有するマルコフ連鎖に対して、非漸近的集中およびBerry-Esseenの評価を、線形作用素の定量的摂動理論を用いて確立する。結果は可逆性やウォームスタートの仮定を必要とせず、すべての定数が明示的かつMCMCへの応用に実用的である。

ABSTRACT

Applying quantitative perturbation theory for linear operators, we prove non-asymptotic limit theorems for Markov chains whose transition kernel has a spectral gap in an arbitrary Banach algebra of functions X . The main results are concentration inequalities and Berry-Esseen bounds, obtained assuming neither reversibility nor `warm start' hypothesis: the law of the first term of the chain can be arbitrary. The spectral gap hypothesis is basically a uniform X-ergodicity hypothesis, and when X consist in regular functions this is weaker than uniform ergodicity. We show on a few examples how the flexibility in the choice of function space can be used. The constants are completely explicit and reasonable enough to make the results usable in practice, notably in MCMC methods.v2: Introduction rewritten, Section 3 applying the main results to examples improved (uniformly ergodic chains and Bernoulli convolutions have been notably added) . Main results and their proofs are unchanged.

研究の動機と目的

• 一般のバナッハ関数空間 $\mathscr{X}$ において、スペクトルギャップを有するマルコフ連鎖に対して、可逆性やウォームスタートを仮定しない非漸近的集中およびBerry-Esseenの評価を提供すること。
• 評価式に含まれるすべての定数を明示的かつ計算可能なものとし、マルコフ連鎖モンテカルロ（MCMC）手法への実用的応用を可能にすること。
• ヒルバート空間に限らない、任意のバナッハ関数空間へのスペクトルギャップ手法の適用を拡張すること。特に、リプシッツ関数やホルダー関数などの正則関数を含む空間を想定する。
• スペクトルギャップ条件が、$\mathscr{X}$ が正則関数からなる場合、一様エルゴード性よりも弱い、一様 $\mathscr{X}$-エルゴード性と同値であることを示すこと。
• 初期分布が定常分布に近いとは限らない、任意の初期分布に対しても評価が有効であることを示すこと。

提案手法

• 線形作用素の定量的摂動理論を用いて、マルコフ連鎖に沿った観測関数の正規化された和の特性関数に対する評価を導出する。
• スペクトルギャップ仮定を適用して、観測関数 $\varphi$ に対する遷移核の作用の減衰を制御し、特性関数の差 $|\phi_n(t) - \gamma(t)|$ の評価を得る。
• パrameter $\alpha$ を用いた切断および平滑化技術により、特性関数の尾部挙動を制御する。$\alpha = 0.195$ は、対立する誤差項をバランスさせるために選ばれた。
• 特性関数の差の積分推定を用いて、経験分布と正規分布の間のコルモゴロフ距離 $\|F_n - G\|_\infty$ の評価を導出する。
• ガンマ関数およびガウス積分を用いた明示的積分評価を用い、最終的な評価を $\|\tilde{\varphi}\|$, $\delta_0$, および $\alpha$ の関数として計算する。
• 特性関数近似の条件が一様に成り立つように、$\|\tilde{\varphi}\|$ および $\delta_0$ に依存する $T$（積分上限）の精密な選択を導入する。

実験結果

リサーチクエスチョン

• RQ1 一般のバナッハ関数空間 $\mathscr{X}$ において、スペクトルギャップを有するマルコフ連鎖に対して、可逆性やウォームスタートを仮定しない非漸近的集中およびBerry-Esseenの評価を導出可能か？
• RQ2 このような評価式における定数を明示的かつ実用的なものとするにはどうすればよいか、特にMCMC設定において。
• RQ3 収束速度がスペクトルギャップ、観測関数の正則性、初期分布にどのように依存するか。
• RQ4 関数空間 $\mathscr{X}$ の選択が、評価のタイトさおよび適用可能性にどのように影響するか。
• RQ5 スペクトルギャップ条件は一様 $\mathscr{X}$-エルゴード性として解釈可能か？また、一様エルゴード性や幾何的エルゴード性と比べてどう異なるか。

主な発見

• 本稿は、$\|F_n - G\|_\infty \leq \frac{1}{\sqrt{n}} \left(0.02 + (148 + 284.36\delta_0^{-1} + 123\delta_0^{-2}) \max\{\|\tilde{\varphi}\|, \|\tilde{\varphi}\|^3\} \right)$ の形のBerry-Esseen評価を確立し、明示的な定数を備える。
• この評価はすべての $n \geq 10,000$ に対して成り立ち、定数は明示的積分推定と最適化されたパrameter（$\alpha = 0.195$ を含む）から導出される。
• スペクトルギャップ条件が一様 $\mathscr{X}$-エルゴード性と同値であることが示され、$\mathscr{X}$ が正則関数からなる場合、これは一様エルゴード性よりも厳密に弱い。
• 本手法は、連鎖が可逆である必要も、定常分布に近い初期分布から出発する必要もないため、より広範なMCMCアルゴリズムに適用可能である。
• 定数が十分に小さく、MCMC収束診断や精度推定に実用的に有用であるため、実用的である。
• 従来の $L^2$ や $L^\infty$ における結果を、任意のバナッハ空間 $\mathscr{X}$ に一般化し、スペクトルギャップフレームワークの柔軟性を示している。