[論文レビュー] Discrepancy bounds for uniformly ergodic Markov chain quasi-Monte Carlo

Josef Dick, Daniel Rudolf+1 more|arXiv (Cornell University)|Mar 11, 2013

Mathematical Approximation and Integration参考文献 32被引用数 7

ひとこと要約

本稿では、i.i.d. の一様乱数ではなく、決定的ドライバ系列を用いて、一様定常マルコフ連鎖の不一致バウンドを確立する。確率的構成枠組みのもとで、経験分布と目的分布との間の不一致が $ olimits cal{O}(n^{-1/2} \log^{1/2} n)$ のレートで収束するようなドライバ系列の存在を証明するが、まだ明示的な系列生成は提供されていない。

ABSTRACT

Markov chains can be used to generate samples whose distribution approximates a given target distribution. The quality of the samples of such Markov chains can be measured by the discrepancy between the empirical distribution of the samples and the target distribution. We prove upper bounds on this discrepancy under the assumption that the Markov chain is uniformly ergodic and the driver sequence is deterministic rather than independent $U(0,1)$ random variables. In particular, we show the existence of driver sequences for which the discrepancy of the Markov chain from the target distribution with respect to certain test sets converges with (almost) the usual Monte Carlo rate of $n^{-1/2}$.

研究の動機と目的

• i.i.d. の一様乱数ではなく決定的ドライバ系列を用いた、マルコフ連鎖準モンテカルロ（MCMC）法の収束速度の分析。
• 一様定常マルコフ連鎖の経験分布とその定常分布との間の理論的不一致バウンドの確立。
• 適切な決定的ドライバ系列のもとで、収束速度が標準モンテカルロレート $n^{-1/2}$ に、対数因子を除いて一致することの証明。
• マルコフ連鎖出力における低不一致を引き起こすドライバ系列を特徴付ける「プルバック不一致」基準の導入。
• 将来的な、確率的および経験過程技法を用いたこのようなドライバ系列の明示的構成のための理論的基盤の構築。

提案手法

• 不一致が小さいようなドライバ系列 $(u_i)_{1\leq i\leq n}$ の存在を示すために、確率的技法を用いる。
• 経験過程に対するホーフディングの不等式と、GlynnおよびOrmoneitの結果を用いて、不一致が大きい確率をバウンドする。
• タラグランの集中不等式と、ハウスラーの被覆数バウンドを用いて、テスト集合族の複雑さを制御する。
• 単位立方体 $[0,1]^s$ におけるドライバ系列の不一致と、マルコフ連鎖状態の不一致を関連付ける「プルバック不一致」の概念を導入する。
• Borel集合族 $\mathscr{A} \subseteq \mathcal{B}(G)$ 上での一般化されたコルモゴロフ＝スミルノフ検定を用いて不一致を分析する。
• 球面キャップの被覆議論と $\mathbb{R}^d$ 内の体積推定を用いて、被覆数をバウンドし、テスト集合族のメトリックエントロピーを制御する。

実験結果

リサーチクエスチョン

• RQ1 決定的ドライバ系列を用いた場合に、一様定常マルコフ連鎖の経験分布とその定常分布との間の不一致をバウンドできるか？
• RQ2 一様定常性の仮定の下で、このような不一致バウンドの最良の収束速度は何か？
• RQ3 マルコフ連鎖準モンテカルロ法の収束速度は、標準モンテカルロレート $n^{-1/2}$ に一致できるか？
• RQ4 マルコフ連鎖出力における低不一致を引き起こすドライバ系列を特徴付ける基準は存在するか？
• RQ5 理論的バウンドから、このようなドライバ系列の明示的構成が得られるか？

主な発見

• 各 $n$ に対して、経験分布と目的分布との間の不一致がレート $\mathcal{O}(n^{-1/2} \log^{1/2} n)$ で収束するような決定的ドライバ系列 $(u_i)_{1\leq i\leq n}$ が存在する。
• この収束速度は、標準モンテカルロレート $n^{-1/2}$ に近く、準モンテカルロ法が決定的ドライバを用いても同程度の精度を達成できることを示唆している。
• このような系列の存在は、ホーフディングの不等式と経験過程の集中バウンドを用いた確率的議論により証明されている。
• マルコフ連鎖状態の不一致は、$[0,1]^s$ 内のドライバ系列の「プルバック不一致」と密接に関係していることが示された。
• 単位球面上の球面キャップを用いた被覆数議論により、テスト集合族のメトリックエントロピーのバウンドが得られ、最終的な不一致レートに至る。
• 証明はドライバ系列の明示的構成を提供しないが、このような系列が満たすべき基準（プルバック不一致）を提示している。