[論文レビュー] Langevin Monte Carlo and JKO splitting

Espen Bernton|arXiv (Cornell University)|Feb 23, 2018

Markov Chains and Monte Carlo Methods参考文献 15被引用数 9

ひとこと要約

本稿は、ランゲヴィン・モンテカルロ法、ワッサーシュタイン勾配流れ、および作用素分割法の間の新しい関係を確立する。非調整型ランゲヴィンアルゴリズム（ULA）のプロキシマル版が、Fokker–Planck方程式に適用された分割スキームから生じることを示し、一般の凸ポテンシャル（微分可能でないものも含む）のもとでULAの非漸近的収束バウンドを新たに得る。

ABSTRACT

Algorithms based on discretizing Langevin diffusion are popular tools for sampling from high-dimensional distributions. We develop novel connections between such Monte Carlo algorithms, the theory of Wasserstein gradient flow, and the operator splitting approach to solving PDEs. In particular, we show that a proximal version of the Unadjusted Langevin Algorithm corresponds to a scheme that alternates between solving the gradient flows of two specific functionals on the space of probability measures. Using this perspective, we derive some new non-asymptotic results on the convergence properties of this algorithm.

研究の動機と目的

• ランゲヴィンに基づくモンテカルロサンプリングとワッサーシュタイン勾配流れ、作用素分割理論を統合すること。
• ポテンシャルの滑らかさに関する最小限の仮定のもとで、プロキシマル非調整型ランゲヴィンアルゴリズム（pULA）の新しい非漸近的収束結果を提供すること。
• 微分可能でないポテンシャル、特に非滑らかな正則化子を含むものへの収束解析を一般化すること。
• Fokker–Planck力学、JKO分割、およびサンプリングアルゴリズムを統一する理論的枠組みを提供すること。
• 最適輸送および偏微分方程式分野における既知の分割スキームと変分積分法を活用して、収束性が向上した新しいアルゴリズム設計を提案すること。

提案手法

• Fokker–Planck方程式にJKO（Jordan-Kinderlehrer-Otto）スキームを適用し、2-ワッサーシュタイン空間における相対エントロピーの勾配流れとして解釈する。
• 作用素分割を用いてFokker–Planck力学を二つの勾配流れに分解する：一つはポテンシャルエネルギー、もう一つはエントロピー。
• プロキシマルULAを、この分割スキームの時間離散化版として導出する。ここでプロキシマルステップはポテンシャルの非滑らか成分を処理する。
• メトリック空間における勾配流れの理論（Ambrosio et al., 2005）に依拠し、ポテンシャルが微分可能でない場合でも適切に定義され、収束することが保証される。
• 時間離散化と分割による累積誤差を解析することで、2-ワッサーシュタイン距離における収束レートを確立する。
• 変位凸性とlog-Sobolev型不等式を用いて、勾配流れの目標測度への収束を制御する。

実験結果

リサーチクエスチョン

• RQ1 非調整型ランゲヴィンアルゴリズムは、Fokker–Planck方程式に対する時間離散化作用素分割スキームとして解釈可能か？
• RQ2 ワッサーシュタイン空間におけるFokker–Planck方程式のJKO型分割によって、プロキシマルULAが自然に導かれるか？
• RQ3 ポテンシャルが凸ではあるが、必ずしも微分可能でない場合に、プロキシマルULAの非漸近的収束レートは何か？
• RQ4 類似の仮定のもとで、pULAの収束レートは既存の文献結果と比較してどうなるか？
• RQ5 ワッサーシュタイン勾配流れと作用素分割の枠組みを用いて、収束性が向上した新しいサンプリングアルゴリズムを設計できるか？

主な発見

• プロキシマル非調整型ランゲヴィンアルゴリズム（pULA）は、JKOフレームワークを介してFokker–Planck方程式に時間分割スキームを適用したものと等価であることが示された。
• 強い凸性とLipschitz勾配を有するポテンシャルの場合、pULAはステップサイズ $h = \mathcal{O}(\varepsilon^2 / d)$ を用い、$n = \Omega(d \varepsilon^{-2} \log(d\varepsilon^{-2})^2)$ 回の反復で2-ワッサーシュタイン誤差 $\mathcal{O}(\varepsilon)$ を達成し、対数因子を除いて既知のレートと一致する。
• ポテンシャルに $\ell_1$-型正則化子（例：$g(x) \propto \|x\|_1$）が含まれる場合、必要な反復回数は $n = \Omega(d^2 / \varepsilon^4)$ に比例する。これはGrappin（2018）が類似仮定のもとで $n = \Omega(d^3 / \varepsilon^4)$ を要していたのを改善している。
• 微分可能でない凸ポテンシャルに対しても解析が成立し、ULAの収束結果の適用範囲が滑らかでない設定へと拡張された。
• 正確な勾配流れの目標測度 $\pi$ への収束レートは、ポテンシャルの凸性および変位凸性によって制御され、強い凸性のもとで指数的収束を示す。
• 証明フレームワークは非滑らかポテンシャルへ一般化可能であるが、$\lambda$-変位凸性をより効果的に活用することで、より鋭いバウンドが得られる可能性がある。これは制限事項として指摘されている。