[論文レビュー] Non-asymptotic convergence analysis for the Unadjusted Langevin Algorithm

Alain Durmus, Miljko Erić|SPIRE - Sciences Po Institutional REpository|Jul 17, 2015

Markov Chains and Monte Carlo Methods参考文献 33被引用数 96

ひとこと要約

この論文は、全変動距離における非漸近的収束バウンドを、一定ステップサイズと減少ステップサイズの両方について、Unadjusted Langevin Algorithm (ULA) に提供する。高次元のターゲット分布からのサンプリングにおいて、次元依存の収束レートを確立し、ポテンシャルの滑らかさと曲率の影響を定量的に評価することで、先行研究を改善する。

ABSTRACT

In this paper, we study a method to sample from a target distribution $π$ over $\mathbb{R}^d$ having a positive density with respect to the Lebesgue measure, known up to a normalisation factor. This method is based on the Euler discretization of the overdamped Langevin stochastic differential equation associated with $π$. For both constant and decreasing step sizes in the Euler discretization, we obtain non-asymptotic bounds for the convergence to the target distribution $π$ in total variation distance. A particular attention is paid to the dependency on the dimension $d$, to demonstrate the applicability of this method in the high dimensional setting. These bounds improve and extend the results of (Dalalyan 2014).

研究の動機と目的

• 全変動距離におけるUnadjusted Langevin Algorithm (ULA) の非漸近的で計算可能な収束バウンドを提供すること。
• 収束レートが次元 $ d $、ステップサイズ $ \gamma $、およびポテンシャル $ U $ の滑らかさ特性にどのように依存するかを分析すること。
• 高次元設定における一定ステップサイズおよび減少ステップサイズの両方について、よりタイトなバウンドを提供することで、既存の結果を拡張すること。
• 非一様マルコフ連鎖と減少ステップサイズを伴う場合でも、弱い条件下でターゲット分布 $ \pi $ への収束を確立すること。

提案手法

• 論文は、過減衰ランジュバン SDE $ \mathrm{d}Y_t = -\nabla U(Y_t)\mathrm{d}t + \sqrt{2}\mathrm{d}B_t^d $ のEuler-Maruyama離散化を用いて、ULA マルコフ連鎖を定義する。
• 反射カップリング技術とカップリングに基づく議論を適用し、ULA 連鎖の分布とターゲット測度 $ \pi $ 間の全変動距離のバウンドを導出する。
• 一定ステップサイズの場合、$ V $-一様幾何的定常性を導出し、定常分布 $ \pi_\gamma $ とターゲット $ \pi $ 間の $ V $-全変動距離のバウンドを求める。
• 減少ステップサイズの場合、マージナル分布が $ \pi $ にほとんど確実に収束することを証明し、全変動距離に対する明示的な非漸近的バウンドを提供する。
• 解析は、特に生成子と半群の性質を活用した関数不等式とドリフト条件に依存する。
• Lyapunov 関数 $ W_{\mathrm{c}} $ を導入し、指数モーメント推定を用いてカップリング時間と尾確率を制御する。

実験結果

リサーチクエスチョン

• RQ1 一定ステップサイズ下でのULA の非漸近的収束バウンドは、次元 $ d $ に対してどのようにスケーリングされるか？
• RQ2 $ \pi_\gamma $ と $ \pi $ 間の全変動距離がステップサイズ $ \gamma $ とポテンシャルの滑らかさにどのように依存するかの明示的依存関係は何か？
• RQ3 減少ステップサイズを用いたULA は、ターゲット $ \pi $ に対して全変動距離で収束することができるか？ その明示的バウンドは何か？
• RQ4 特に高次元設定において、先行研究と比較して収束レートはどのように異なるか？

主な発見

• 一定ステップサイズの場合、論文は $ \pi_\gamma $ と $ \pi $ 間の非漸近的 $ V $-全変動バウンドを確立し、これは $ \gamma $、$ d $、およびポテンシャルの曲率に明示的に依存する。
• 一定ステップサイズ ULA の収束レートは、$ V $-一様定常性のもとで幾何的であることが示され、$ U $ が強く凸である場合には高次元でも有利にスケーリングされる。
• 減少ステップサイズの場合、論文はULA 連鎖のマージナル分布が $ \pi $ に全変動距離で収束することを証明し、先行研究を上回る明示的バウンドを提供する。
• 解析により、次元に依存するバウンドが得られ、特にヘッセ行列と勾配の成長が制御された非対数凸ポテンシャルにおいて、[12] や [13] よりもタイトである。
• 収束バウンドに明示的な定数が含まれており、ターゲット測度のPoincaré定数および対数ソボレフ定数への依存関係も含む。
• 連続時間ランジュバン拡散では全変動距離が時間とともに指数的に減少することを確立し、これをカップリングと生成子に基づく議論を介して離散的 ULA に拡張する。