[論文レビュー] Stochastic Runge-Kutta Accelerates Langevin Monte Carlo and Beyond

Xuechen Li, Yi Wu+2 more|arXiv (Cornell University)|Jan 1, 2019

Markov Chains and Monte Carlo Methods被引用数 22

ひとこと要約

本稿では、過減衰ランジュヴィン拡散の離散化にための確率的ルンゲ＝クッタ法を提案し、マルコフ連鎖モンテカルロサンプリングの高速化を図る。積分子の局所的偏差特性を活用することで、強い凸性と滑らかさを満たすポテンシャルに対して、2-ワサーラインシュタイン距離において収束速度 $ ilde{/mathcal{O}}(dackepsilon^{-2/3})$ を達成する。これは勾配オракルのみを用いるエラー・マリヤミ法に基づく手法を上回る。

ABSTRACT

Sampling with Markov chain Monte Carlo methods typically amounts to discretizing some continuous-time dynamics with numerical integration. In this paper, we establish the convergence rate of sampling algorithms obtained by discretizing smooth It\^o diffusions exhibiting fast $2$-Wasserstein contraction, based on local deviation properties of the integration scheme. In particular, we study a sampling algorithm constructed by discretizing the overdamped Langevin diffusion with the method of stochastic Runge-Kutta. For strongly convex potentials that are smooth up to a certain order, its iterates converge to the target distribution in $2$-Wasserstein distance in $ ilde{\mathcal{O}}(d\epsilon^{-2/3})$ iterations. This improves upon the best-known rate for strongly log-concave sampling based on the overdamped Langevin equation using only the gradient oracle without adjustment. Additionally, we extend our analysis of stochastic Runge-Kutta methods to uniformly dissipative diffusions with possibly non-convex potentials and show they achieve better rates compared to the Euler-Maruyama scheme on the dependence on tolerance $\epsilon$. Numerical studies show that these algorithms lead to better stability and lower asymptotic errors.

研究の動機と目的

• イト拡散の離散化に基づくサンプリングアルゴリズムの収束速度を、高速な2-ワサーラインシュタイン収縮と組み合わせて向上させること。
• 滑らかで強く凸なポテンシャル下での過減衰ランジュヴィンダイナミクスに対する確率的ルンゲ＝クッタスキームの分析を行うこと。
• 非凸ポテンシャルを持つ一様に散逸的（uniformly dissipative）な拡散へと分析を拡張すること。
• 許容誤差 $\epsilon$ の観点から、エラー・マリヤミスキームに比べて改善された収束速度と安定性を示すこと。
• 下限漸近誤差が小さく、安定性が向上した数値的妥当性を検証すること。

提案手法

• 積分子の高次局所的偏差特性を活用するため、滑らかなイト拡散を確率的ルンゲ＝クッタ積分法で離散化する。
• 元の拡散の2-ワサーラインシュタイン収縮率を活用して、サンプリングアルゴリズムの収束を制限する。
• 特定の次数まで滑らかで強く凸なポテンシャルに対して、スキームは2-ワサーラインシュタイン距離において $\tilde{\mathcal{O}}(d\epsilon^{-2/3})$ の収束を達成する。
• 非凸ポテンシャルを持つ一様に散逸的拡散へと分析を拡張し、エラー・マリヤミスキームに比べて $\epsilon$ 依存性が改善されることを示す。
• 積分子の真の拡散経路からの局所的偏差を制御することで、グローバル誤差を制御する。
• 数値実験では、確率的ルンゲ＝クッタサンプリングとエラー・マリヤミスキームの安定性および漸近誤差を比較する。

実験結果

リサーチクエスチョン

• RQ1 確率的ルンゲ＝クッタ法は、強い対数凸分布からのサンプリングにおいて、エラー・マリヤミスキームを上回るより高速な収束を達成できるか？
• RQ2 高次積分子を用いる場合、収束速度がターゲット精度 $\epsilon$ にどのように依存するか？
• RQ3 一様散逸的条件下での非凸ポテンシャルに対して、収束挙動はどのように変化するか？
• RQ4 積分子の局所的偏差特性を用いて、サンプリングアルゴリズムのグローバル収束境界を導出できるか？
• RQ5 確率的ルンゲ＝クッタサンプリングは、安定性および漸近誤差の観点で、どのような実証的利点を示すか？

主な発見

• 強い凸性と滑らかさを満たすポテンシャルに対して、確率的ルンゲ＝クッタサンプリングは2-ワサーラインシュタイン距離において収束速度 $\tilde{\mathcal{O}}(d\epsilon^{-2/3})$ を達成する。
• ヘッセ行列や高次オラクルへのアクセスなしに、勾配ベースのサンプリング手法で達成可能な最良のレートを上回る。
• 非凸ポテンシャルを持つ一様に散逸的拡散に対しては、エラー・マリヤミスキームに比べて許容誤差 $\epsilon$ に対する依存性が良好である。
• 数値結果により、エラー・マリヤミスキームに比べて安定性が向上し、漸近誤差が低減していることが確認された。
• 理論的分析は、統合スキームの局所的偏差特性と、元の拡散の2-ワサーラインシュタイン収縮率に基づいている。
• 本手法は、イト拡散の文脈において、高次積分子を用いたサンプリングの高速化のための一般枠組みを提供する。