[論文レビュー] Subgeometric rates of convergence in Wasserstein distance for Markov chains

Alain Durmus, Gersende Fort+1 more|arXiv (Cornell University)|Feb 19, 2014

Markov Chains and Monte Carlo Methods参考文献 34被引用数 29

ひとこと要約

本稿では、非再帰的である場合でさえも、一般状態空間のマルコフ連鎖に対するワッサーシュタイン距離における非幾何的収束速度を、独自の確率的カップリング構成を用いて確立する。非再帰的である場合でさえも、一様なドリフト条件が非幾何的エルゴドリシティを示し、非線形自己回帰モデルおよびヒルバート空間における事前処理付きクランク・ニコルソンMCMCに応用され、全変動解析から得られる既知の収束速度と一致する。

ABSTRACT

In this paper, we provide sufficient conditions for the existence of the invariant distribution and for subgeometric rates of convergence in Wasserstein distance for general state-space Markov chains which are (possibly) not irreducible. Compared to previous work, our approach is based on a purely probabilistic coupling construction which allows to retrieve rates of convergence matching those previously reported for convergence in total variation. Our results are applied to establish the subgeometric ergodicity in Wasserstein distance of non-linear autoregressive models and of the pre-conditioned Crank-Nicolson Markov chain Monte Carlo algorithm in Hilbert space.

研究の動機と目的

• 非再帰的である可能性のある一般状態空間マルコフ連鎖について、ワッサーシュタイン距離における非幾何的収束の十分条件を確立すること。
• 関数解析に依存しないカップリングに基づくアプローチを開発し、収束速度をより厳密に制御すること。
• 従来の全変動解析で報告された非幾何的収束速度を、確率的枠組みで再現・一致させること。
• 非線形自己回帰モデルおよび重尾または特異的ノイズを有するヒルバート空間における事前処理付きクランク・ニコルソンMCMCに、結果を応用すること。

提案手法

• カップリング集合と呼ばれる領域の外で定義されるカップリングカーネルを用いた確率的カップリング構成が採用される。
• カップリングカーネルに一様なドリフト条件を課し、カップリングまでの期待時間を制御する。これにより、先行研究で用いられていたドリフト条件の列を置き換える。
• ドリフト条件を用いて、カップリング集合への帰還時間の非幾何的モーメントの境界を導出する。
• これらのモーメント境界を用いて、連鎖の分布と不変測度との間のワッサーシュタイン距離を制御する。
• 文献[13]の$d$-小集合概念の修正版を用い、非幾何的レートに適応させる。
• カップリングが、非幾何的関数$r$と関連関数$R$によって定まるレートでワッサーシュタイン距離が減少するように構成される。

実験結果

リサーチクエスチョン

• RQ1 非再帰性を仮定しないマルコフ連鎖について、ワッサーシュタイン距離における非幾何的収束を確立できるか？
• RQ2 従来の研究で用いられていたドリフト条件の列を、一様なドリフト条件が置き換えられるか？
• RQ3 純粋な確率的カップリングアプローチにより、非幾何的レートにおける全変動距離の収束速度と一致する速度が得られるか？
• RQ4 特異的ノイズ分布を有する非線形自己回帰モデルに、この手法を適用できるか？
• RQ5 ヒルバート空間における事前処理付きクランク・ニコルソンMCMCアルゴリズムが、[14] より弱い条件下でもワッサーシュタイン距離における非幾何的収束を達成できるか？

主な発見

• 非再帰的連鎖であっても、一様なドリフト条件のもとで、ワッサーシュタイン距離における非幾何的エルゴドリシティが確立される。
• 従来の全変動距離における報告済みの収束速度が再現され、ワッサーシュタイン距離へと拡張される。
• 特異的ノイズを有する非線形自己回帰モデルに対して、ワッサーシュタイン距離における非幾何的収束が確認される。
• ヒルバート空間における事前処理付きクランク・ニコルソンMCMCアルゴリズムは、[14] より弱い仮定のもとで、ワッサーシュタイン距離において非幾何的に収束することが示される。
• カップリング構成により、ワッサーシュタイン距離が非幾何的関数$r$に従って減少し、$W_d(P^n(x, olinkcdot), olinkmu) \leq \zeta^n d_\eta(x,y)$ を満たすような$\zeta \in (0,1)$ が存在することが保証される。
• 重尾のターゲット分布に対しても、結果が頑健であることが、このようなターゲットを持つMCMCサンプラーへの応用を通じて示された。