[論文レビュー] On the Markov chain central limit theorem

Galin L. Jones|ArXiv.org|Sep 7, 2004

Markov Chains and Monte Carlo Methods参考文献 55被引用数 9

ひとこと要約

この論文は、一般状態空間のマーカフチェーンにおける中心極限定理（CLT）の成立条件を確立し、MCMCで一般的に用いられるドリフト条件およびミニマリゼーション条件と、古典的な混合過程の結果との関係に注目している。幾何的エルゴディック性（ドリフト条件によって保証される）が漸近的無相関性を意味し、それによってエルゴディック平均のCLTが成立することを示しており、MCMCシミュレーションにおける有効な推論を可能にする。

ABSTRACT

The goal of this expository paper is to describe conditions which guarantee a central limit theorem for functionals of general state space Markov chains. This is done with a view towards Markov chain Monte Carlo settings and hence the focus is on the connections between drift and mixing conditions and their implications. In particular, we consider three commonly cited central limit theorems and discuss their relationship to classical results for mixing processes. Several motivating examples are given which range from toy one-dimensional settings to complicated settings encountered in Markov chain Monte Carlo.

研究の動機と目的

• 一般状態空間のマーカフチェーンの関数的量に対して中心極限定理（CLT）が成立する条件を明確化すること、特にマーカフチェーン・モンテカルロ（MCMC）設定において。
• ドリフトおよびミニマリゼーション条件に基づく現代のMCMC理論と、古典的混合過程の結果との間のギャップを埋めること。
• ドリフト条件によって保証される幾何的エルゴディック性が、漸近的無相関性をもたらし、それによってエルゴディック平均のCLTが成立することを示すこと。
• 空間的ギブスモデルやランダムウォークメトロポリス・ハスティングス法などの複雑なMCMCアプリケーションにおいて、CLTの有効性を検証するための実用的基準を提供すること。
• MCMC出力における漸近的分散の推定に不可欠なCLTの存在の重要性を強調すること。これは収束性と精度の評価に不可欠である。

提案手法

• ハリス再帰的マーカフチェーンの幾何的エルゴディック性を、ドリフトおよびミニマリゼーション条件を用いて確立し、不変測度への収束が幾何的レートで保証されることを示す。
• メインとトゥイディの定理1を適用し、関数 $ V $ に対して $ f^2(x) \leq c V(x) $ を満たすドリフト条件が成立する場合、$ \bar{f}_n $ に対してCLTが成立することを示す。
• ランダムウォークメトロポリス・ハスティングス法を分析し、$ V(x) = c \pi(x)^{-1/2} $ などを用いてドリフト条件を検証することで、幾何的エルゴディック性およびCLTの有効性を確認する。
• チェーンが幾何的エルゴディックであり、条件（5）を満たしている場合、漸近的無相関性が成立し、$ \sigma_f^2 < \infty $ かつCLTが成立することを示す。
• カップリングおよびカップリング時間の議論を用いて、幾何的エルゴディック性と混合性の関係を結びつけ、強い混合性が可積分性のもとでCLTを導くことを示す。
• 混合過程の結果（例えば、関数的CLT、強い不変性原理）をMCMCに適用し、$ \sigma_f^2 $ の分散推定技術を可能にする。

実験結果

リサーチクエスチョン

• RQ1 マーカフカーネルおよび関数 $ f $ に対して、エルゴディック平均 $ \bar{f}_n $ が中心極限定理を満たす条件は何か？
• RQ2 ドリフトおよびミニマリゼーション条件は、マーカフチェーンのCLTの文脈で、古典的混合条件とどのように関係するか？
• RQ3 ドリフト条件によって示唆される幾何的エルゴディック性は、MCMC推定量のCLTを保証できるか？
• RQ4 漸近的無相関性（すなわち、$ \text{Cov}(f(X_0), f(X_n)) \to 0 $）がCLTの存在に与える影響は何か？
• RQ5 混合過程からの結果は、複雑なMCMC設定におけるCLTに基づく推論を検証するためにどのように応用できるか？

主な発見

• ドリフトおよびミニマリゼーション条件によって確立される幾何的エルゴディック性は、マーカフチェーンが漸近的無相関的であることを意味し、これはCLTが成立するのに十分である。
• ランダムウォークメトロポリス・ハスティングス法においては、$ \lim_{|x|\to\infty} \frac{x}{|x|} \cdot \nabla \log \pi(x) = -\infty $ などの条件下で幾何的エルゴディック性が成立し、$ \mathbb{E}_\pi f^2 < \infty $ のもとで $ \bar{f}_n $ に対してCLTが成立する。
• $ \sqrt{n}(\bar{f}_n - \mathbb{E}_\pi f) \xrightarrow{d} \mathcal{N}(0, \sigma_f^2) $ のCLTが成立するための条件は、$ \sigma_f^2 = \text{Var}_\pi(f) + 2\sum_{i=1}^\infty \text{Cov}_\pi(f(X_0), f(X_i)) < \infty $ が成り立つことであり、これは幾何的エルゴディック性のもとで保証される。
• CLTの存在はMCMCにおいて極めて重要であり、これは漸近的分散 $ \sigma_f^2 $ の一貫した推定を可能にし、$ \bar{f}_n $ の精度の評価に不可欠である。
• ドリフト条件（例：$ PV(x) \leq \lambda V(x) + b \mathbf{1}_C(x) $）は、高次元または解析的に扱いにくいモデルにおいてCLTの条件を検証するための構成的ツールを提供する。
• 本論文は、古典的混合過程の結果（例：関数的CLT）がMCMCに適用可能であり、$ \sigma_f^2 $ の推定に利用できることを示しているが、その推定手法については詳細には扱わない。