[論文レビュー] Exponential ergodicity of mirror-Langevin diffusions

Sinho Chewi, Thibaut Le Gouic+4 more|arXiv (Cornell University)|May 19, 2020

Markov Chains and Monte Carlo Methods参考文献 63被引用数 15

ひとこと要約

本稿では、劣化条件の悪い対数凸分布からのサンプリングのためのフレームワークとして、ミラー・ランジュバン拡散（MLD）を導入する。特に、次元に依存せず、分布に依存しない指数的エルゴード性を達成するノーウトン・ランジュバン拡散（NLD）に焦点を当てる。KL発散ではなくカイ二乗発散を追跡することにより、著者たちはミラー・パーオカーレ不等式を、高速収束の十分条件として確立し、ヘッセ行列が退化しても安定なサンプリングアルゴリズムを実現する。

ABSTRACT

Motivated by the problem of sampling from ill-conditioned log-concave distributions, we give a clean non-asymptotic convergence analysis of mirror-Langevin diffusions as introduced in Zhang et al. (2020). As a special case of this framework, we propose a class of diffusions called Newton-Langevin diffusions and prove that they converge to stationarity exponentially fast with a rate which not only is dimension-free, but also has no dependence on the target distribution. We give an application of this result to the problem of sampling from the uniform distribution on a convex body using a strategy inspired by interior-point methods. Our general approach follows the recent trend of linking sampling and optimization and highlights the role of the chi-squared divergence. In particular, it yields new results on the convergence of the vanilla Langevin diffusion in Wasserstein distance.

研究の動機と目的

• 劣化条件の悪い高次元の対数凸分布におけるMCMCの混合が遅いという課題に対処すること。
• ランジュバンダイナミクスの一般化であるミラー・ランジュバン拡散（MLD）の非漸近的収束解析を構築すること。
• 次元およびターゲット分布に依存しない指数的エルゴード性を、特にノーウトン・ランジュバン拡散（NLD）に対して確立すること。
• ワッサーシュタイン勾配フローとミラー降下を介して、サンプリングと最適化を結びつけること。カイ二乗発散の役割に特に注目する。
• 極めて劣化条件の悪い状況において、バニラ版およびアン調整ランジュバンアルゴリズムの代替として、安定でスケーラブルな手法を提供すること。

提案手法

• ミラー写像を用いて空間の幾何を変更することで、ワッサーシュタイン空間上でのKL発散の最小化を実現する確率過程として、ミラー・ランジュバン拡散（MLD）を導入する。
• 収束を追跡するための代替目的関数としてカイ二乗発散を用い、これにより指数的エルゴード性の十分条件としてミラー・パーオカーレ不等式が得られる。
• ミラー写像がポテンシャル $V$ に等しい特別な場合にこのフレームワークを適用し、ノーウトン・ランジュバン拡散（NLD）を導出する。これはニュートン法のサンプリング版に相当する。
• Brascamp-Lieb不等式を用いて、NLDがターゲット分布 $\pi$ や次元 $d$ に依存しない指数的収束率で収束することを証明する。
• ミラー・ランジュバン拡散の離散化としてミラー・ランジュガンアルゴリズム（MLA）を導出し、数値実験でULAやTULAよりも安定性と高速収束性を示す。
• 実験では、劣化条件の悪い状況でも安定性を保ちつつ高速収束を実現するため、$\phi(x) = \|x\|^{3/2}$ というカスタマイズされたミラー写像を採用する。

実験結果

リサーチクエスチョン

• RQ1 ミラー・ランジュバン拡散は、次元およびターゲット分布に依存しない収束率で指数的エルゴード性を達成できるか？
• RQ2 KL発散ではなくカイ二乗発散を追跡することで、サンプリングアルゴリズムの収束解析がどのように改善されるか？
• RQ3 ポテンシャルのヘッセ行列が退化する場合、ノーウトン・ランジュバン拡散（NLD）の収束挙動はいかなるものか？
• RQ4 ミラー・ランジュバンフレームワークは、極めて劣化条件の悪い状況において、安定で高速混合のサンプリングアルゴリズムを設計するために利用可能か？
• RQ5 ミラー写像の選択が、MLAのような離散化サンプリングアルゴリズムの安定性および収束性にどのように影響するか？

主な発見

• ノーウトン・ランジュバン拡散（NLD）は、コロナリー1で示されるように、次元に依存せず、ターゲット分布 $\pi$ に依存しない収束率で定常分布に指数的に収束する。
• NLDの収束率はスケール不変性を示し、$\nabla^2 V$ がゼロに限りなく近づいても、$O(1)$ のまま維持される。これは劣化条件の悪い問題において顕著な利点である。
• Brascamp-Lieb条件の下で成り立つミラー・パーオカーレ不等式により、カイ二乗発散における指数的収束が保証され、これはKL、ハリントン、全変動距離などの他の発散にも高速収束を意味する。
• 数値実験では、NLAが初期段階で極めて高速に収束するが、特に $\|x\|$ が小さい近縁でヘッセ行列の発散により不安定になることが観察された。
• 適切に選ばれたミラー写像 $\phi(x) = \|x\|^{3/2}$ を用いたミラー・ランジュガンアルゴリズム（MLA）は、ULA や TULA よりも高速に収束し、安定性を維持する。混合時間は $O(\beta^{-1/2})$ のスケーリングを示す。
• 理論的混合時間として、ULA は $O(\beta^{-1})$、MLA は $O(\beta^{-1/2})$ にスケーリングする。これは実験で観察された高速収束を説明する。