[論文レビュー] Coupling and Decoupling to bound an approximating Markov Chain

JE Johndrow, JC Mattingly|arXiv (Cornell University)|Jun 7, 2017

Statistical Methods and Inference参考文献 7被引用数 5

ひとこと要約

本稿では、2つのマーカフチェーン（正確な方と近似された方）間の近似誤差を、パスワイズな一致を最大化することで、結合に基づく手法によりバウンディングする。支配的となる2状態のチェーンを用いて結合／分離イベントを追跡することで、不変測度および収束速度に関する明示的な全 Variation バウンディングを導出する。近似誤差は核距離 $\epsilon$ に比例し、Doeblin 係数 $a$ に反比例することを示し、証明可能な正確性保証を持つ効率的な MCMC を可能にする。

ABSTRACT

This simple note lays out a few observations which are well known in many ways but may not have been said in quite this way before. The basic idea is that when comparing two different Markov chains it is useful to couple them is such a way that they agree as often as possible. We construct such a coupling and analyze it by a simple dominating chain which registers if the two processes agree or disagree. We find that this imagery is useful when thinking about such problems. We are particularly interested in comparing the invariant measures and long time averages of the processes. However, since the paths agree for long runs, it also provides estimates on various stopping times such as hitting or exit times. We also show that certain bounds are tight. Finally, we provide a simple application to a Markov Chain Monte Carlo algorithm and show numerically that the results of the paper show a good level of approximation at considerable speed up by using an approximating chain rather than the original sampling chain.

研究の動機と目的

• ターゲットとなるマーカフチェーンとその計算コストが低い代替チェーンの間の近似誤差を定量化するフレームワークの構築を目的とする。
• 高速で近似された MCMC アルゴリズムが統計的妥当性を保つように保証するため、その不変測度の乖離をバウンディングすることに挑戦する。
• ガウス過程モデルにおける低ランク近似の検証に実用的かつ理論的根拠を持つ方法を提供すること。
• 結合技術が、実世界の MCMC アルゴリズムに適用可能な鋭い、計算可能な誤差バウンディングをもたらせることを示すこと。

提案手法

• 2つのマーカフチェーンの最大結合を構築し、パスワイズな一致を最大化する。支配的2状態チェーンを用いて、一致／不一致のイベントを追跡する。
• 各ステップで2つのプロセスが結合済みか否かを記録するバウンディングチェーンを定義し、結合時間および不一致確率の解析を可能にする。
• ポisson方程式およびマルティングール手法を用いて、結合までの期待時間および不変測度間の全 Variation 距離のバウンディングを導出する。
• Doeblin 条件を用いて幾何的エルゴディシティを確立し、核距離 $\\epsilon$ および Doeblin 係数 $a$ の関数として明示的な誤差バウンディングを導出する。
• 低ランク近似をガウス過程モデルに適用し、$\mathcal{O}(n^3)$ の行列逆行列計算を $\mathcal{O}(n^2 q)$ の低ランク代替に置き換える。
• ベイジアン空間モデルにおいて理論的バウンディングを数値的に検証し、近似チェーンが顕著な計算高速化とともに高い精度を達成することを示す。

実験結果

リサーチクエスチョン

• RQ1 2つのマーカフチェーンの遷移核が全 Variation 距離で近接しているとき、それらの不変測度間の全 Variation 距離をどのようにバウンディングできるか？
• RQ2 2つのマーカフチェーンをどのように結合すれば、一致を最大化し、不一致時間を最小化できるか？
• RQ3 結合状態を追跡する簡単な2状態補助チェーンを用いて、結合時間および不一致確率を解析できるか？
• RQ4 理論的誤差バウンディングは、核距離 $\epsilon$ および Doeblin 係数 $a$ に対してどのようにスケーリングされるか？
• RQ5 マーカフ核の低ランク近似は、元のチェーンの統計的性質をどの程度維持できるか？そして、その維持度はどのように定量化できるか？

主な発見

• 元のチェーンと近似チェーンの不変測度間の全 Variation 距離は、$\|\mu - \mu_\epsilon\|_{TV} \leq \frac{\epsilon}{a}$ でバウンディングされる。ここで $\epsilon$ は核距離、$a$ は Doeblin 係数である。
• 結合構成により、時間の経過とともにチェーンが高確率で結合することが保証され、結合時間の分布は補助2状態チェーンを用いて解析可能である。
• 誤差バウンディングは鋭く、バウンディングがタイトになる反例を構築することで、その鋭さが実証された。
• 時間平均の収束速度に対する計算可能なバウンディングが得られ、分散バウンディングは $\mathcal{O}(1/n)$ にスケーリングし、集中不等式は $\mathbf{P}(|\mu f - \frac{1}{n}\sum f(X_k)| \geq \lambda) \leq 2\exp(-\frac{a^2\lambda^2}{32})$ の形を取る。
• ガウス過程モデルにおいて、低ランク近似 $\Sigma_\epsilon$ は $\epsilon \ll a + \epsilon$ の条件下で高い精度を達成し、$\mathcal{O}(n^3)$ の計算から $\mathcal{O}(n^2 q)$ に低減可能であり、統計的整合性を維持する。
• 数値実験により、近似チェーンが元のチェーンと非常に近い結果をもたらし、顕著な高速化と実用的な誤差バウンディングを達成していることが確認された。