[論文レビュー] Concentration inequalities for Markov chains by Marton couplings

Daniel Paulin|arXiv (Cornell University)|Dec 10, 2012

Markov Chains and Monte Carlo Methods被引用数 15

ひとこと要約

この論文は、マルコフ連鎖における集中不等式を、マルトンカップリングとスペクトル技法を用いて確立し、乖離境界が混合時間およびスペクトルギャップに比例することを示している。非可逆連鎖へのマクディアーミッドの不等式の拡張として、擬似スペクトルギャップを導入することで、経験平均の分散およびベルンシュタイン型不等式を提供している。

ABSTRACT

We prove a version of McDiarmid's bounded differences inequality for Markov chains, with constants proportional to the mixing time of the chain. We also show variance bounds and Bernstein-type inequalities for empirical averages of Markov chains. In the case of non-reversible chains, we introduce a new quantity called the spectral gap, and show that it plays a similar role for non-reversible chains as the spectral gap plays for reversible chains. Our techniques for proving these results are based on a coupling construction of Katalin Marton, and on spectral techniques due to Pascal Lezaud. The pseudo spectral gap generalises the multiplicative reversiblication approach of Jim Fill.

研究の動機と目的

• 混合時間に比例する定数を有するマクディアーミッドの有界差分不等式を、マルコフ連鎖へ拡張すること。
• マルコフ連鎖の経験平均の分散およびベルンシュタイン型不等式を導出すること。
• 非可逆マルコフ連鎖における新しいスペクトル量「擬似スペクトルギャップ」を導入し、その分析を行うこと。
• カップリングおよびスペクトル手法を用いて、可逆連鎖におけるスペクトルギャップの役割を非可逆連鎖へ一般化すること。
• マルトンのカップリング構成とレザオーのスペクトル技法を統合することで、既存の集中結果を統一的かつ拡張すること。

提案手法

• 2つのマルコフ連鎖間のカップリングを構築するためにマルトンカップリングを用い、パスの比較と乖離の制御を可能にする。
• パスクアル・レザオーの手法を応用し、遷移カーネルの固有値を評価するスペクトル技法を適用し、特にスペクトルギャップに注目する。
• 非可逆連鎖における標準スペクトルギャップの一般化として、擬似スペクトルギャップを導入し、集中不等式の確立を可能にする。
• カップリング距離とスペクトル減衰率を組み合わせることで、経験平均の乖離に関する境界を確立する。
• 混合時間を集中不等式の主要パラメータとして用い、定数が連鎖の収束速度に適切に比例することを保証する。
• 擬似スペクトルギャップを介した乗法的可逆化アプローチを用いて、可逆連鎖から非可逆連鎖への結果の拡張を達成する。

実験結果

リサーチクエスチョン

• RQ1 マクディアーミッドの有界差分不等式は、混合時間に明示的な依存関係を持つマルコフ連鎖へどのように適応可能か？
• RQ2 非可逆マルコフ連鎖において、スペクトルギャップの役割を一般化する量は何か？
• RQ3 カップリングおよびスペクトル手法を用いて、マルコフ依存下の経験平均の分散およびベルンシュタイン型不等式を導出可能か？
• RQ4 擬似スペクトルギャップは、非可逆連鎖における混合時間および集中挙動とどのように関係するか？
• RQ5 マルトンのカップリング技法は、スペクトル解析とどのように組み合わせられ、非漸近的集中不等式を導出可能か？

主な発見

• 本論文は、連鎖の混合時間に比例する定数を有するマクディアーミッド型不等式を、マルコフ連鎖に対して確立している。
• スペクトル技法とマルトンカップリングを用いて、マルコフ連鎖の経験平均の分散境界が導出されている。
• ベルンシュタイン型不等式が、マルコフ依存下の分散および有界差分を統合して、経験平均に対して証明されている。
• 擬似スペクトルギャップは、非可逆連鎖における集中を制御する主要パラメータとして導入され、標準スペクトルギャップの役割を一般化している。
• 非可逆連鎖におけるスペクトルギャップが、カップリングおよびスペクトルフレームワークを通じて、可逆連鎖におけるそれと類似した役割を果たすことが示された。
• マルトンのカップリング手法とレザオーのスペクトル境界、フィルの乗法的可逆化を統合することで、既存のアプローチを統一的かつ拡張した結果が得られた。