[論文レビュー] Wasserstein Control of Mirror Langevin Monte Carlo

Kelvin Shuangjian Zhang, Gabriel Peyré+2 more|arXiv (Cornell University)|Feb 11, 2020

Markov Chains and Monte Carlo Methods参考文献 22被引用数 12

ひとこと要約

本稿では、非滑らかまたは非対数凸なターゲットにおける収束を向上させるためにヘッセ型リーマン多様体上のミラー降下にインspiredされた離散化を用いる、Hessian Riemannian Langevin Monte Carlo (HRLMC) アルゴリズムを導入する。非漸近的 Wasserstein 距離誤差の上界を初めて確立し、自己調和性および異方性条件の下で、明示的な半径の Wasserstein ボールへの収縮を示す。

ABSTRACT

Discretized Langevin diffusions are efficient Monte Carlo methods for sampling from high dimensional target densities that are log-Lipschitz-smooth and (strongly) log-concave. In particular, the Euclidean Langevin Monte Carlo sampling algorithm has received much attention lately, leading to a detailed understanding of its non-asymptotic convergence properties and of the role that smoothness and log-concavity play in the convergence rate. Distributions that do not possess these regularity properties can be addressed by considering a Riemannian Langevin diffusion with a metric capturing the local geometry of the log-density. However, the Monte Carlo algorithms derived from discretizations of such Riemannian Langevin diffusions are notoriously difficult to analyze. In this paper, we consider Langevin diffusions on a Hessian-type manifold and study a discretization that is closely related to the mirror-descent scheme. We establish for the first time a non-asymptotic upper-bound on the sampling error of the resulting Hessian Riemannian Langevin Monte Carlo algorithm. This bound is measured according to a Wasserstein distance induced by a Riemannian metric ground cost capturing the Hessian structure and closely related to a self-concordance-like condition. The upper-bound implies, for instance, that the iterates contract toward a Wasserstein ball around the target density whose radius is made explicit. Our theory recovers existing Euclidean results and can cope with a wide variety of Hessian metrics related to highly non-flat geometries.

研究の動機と目的

• 高次元で非滑らかまたは非対数凸な分布からのサンプリングにおける、ユークリッド型ラングジュアンモンテカルロの限界を解決すること。
• ヘッセ型多様体を用いた理論的裏付けのあるラングジュアンモンテカルロのリーマン一般化を開発すること。
• ターゲットおよびエントロピー関数のヘッセ幾何を反映するリーマン計量によって誘導される Wasserstein 距離における非漸近的収束保証を確立すること。
• ユークリッド LMC を特殊ケースとして回復し、極めて平坦でない幾何を扱えるように、既存の結果を統合・拡張すること。

提案手法

• ヘッセ多様体上のリーマン確率微分方程式のミラー降下にインspiredされた離散化に基づく、離散的 HRLMC アルゴリズムを提案する。
• 凸ポテンシャル φ を Legendre 型として用い、そのヘッセ行列 D²φ(x) によってリーマン計量を定義し、幾何に配慮したサンプリングを可能にする。
• リーマン計量によって誘導される Wasserstein 距離 W₂,φ を用いて、サンプリング誤差を測定し、f および φ の内在的幾何を捉える。
• 伊藤の等長性およびミンコフスキーの積分不等式を適用し、離散化誤差におけるドリフト項、拡散項および残差項の期待二乗ノルムを上界で制御する。
• 自己調和性、f のヘッセ行列および勾配の有界性、および相対的異方性を制御するコミュターバインドを含む仮定に依存する。
• W₂,φ(μₖ₊₁, π) ≤ ρ W₂,φ(μₖ, π) + h p¹ᐟ² β₁ + h³ᐟ² p¹ᐟ² β₂ という収縮不等式を導出する。ここで ρ < 1 であれば収束が保証される。

実験結果

リサーチクエスチョン

• RQ1 ヘッセ型多様体を用いたリーマン型ラングジュアンモンテカルロアルゴリズムは、非対数凸または非滑らかなターゲットに対して厳密に解析可能か？
• RQ2 幾何的に一貫した Wasserstein 距離における HRLMC アルゴリズムの非漸近的収束速度は何か？
• RQ3 対数密度 f のヘッセ行列とエントロピー φ のヘッセ行列との間の相互作用は、収束挙動にどのように影響するか？
• RQ4 HRLMC アルゴリズムは、ターゲット分布の近傍へどのような意味で収縮するか？
• RQ5 理論は、古典的なユークリッド LMC 結果を特殊ケースとして回復できるか？

主な発見

• HRLMC アルゴリズムは、自己調和的 Legendre ポテンシャル φ のヘッセ行列から導出されるリーマン計量によって誘導される Wasserstein 距離 W₂,φ において、非漸近的収束を達成する。
• サンプリング誤差は、h p¹ᐟ² β₁ および h³ᐟ² p¹ᐟ² β₂ で明示的に上界が与えられた Wasserstein ボールへ収縮する。ここで β₁ および β₂ は f および φ の滑らかさおよび異方性に依存する。
• 適切なステップサイズおよび曲率条件の下で収縮係数 ρ は 1 よりも厳密に小さいため、収束が保証される。
• 理論は、φ(x) = ||x||²/2 のときユークリッド LMC を特殊ケースとして回復し、既存の結果と一貫性を確認する。
• 解析により、φ の自己調和性および D²φ と D²f 間の有界コミューターバインドが、離散化誤差の制御および安定性の確保に不可欠であることが明らかになった。
• 上界は次元 p、ステップサイズ h、幾何パラメータ R、M、m、κ に明示的に依存しており、幾何と滑らかさが収束にどのように共同で影響するかを示している。