[論文レビュー] On sampling from a log-concave density using kinetic Langevin diffusions

Arnak S. Dalalyan, Lionel Riou-Durand|arXiv (Cornell University)|Jul 24, 2018

Markov Chains and Monte Carlo Methods被引用数 4

ひとこと要約

本稿では、離散化された運動的ランジュバン拡散を用いて対数凸なターゲットからのサンプリングを行うための運動的ランジュバン・モンテカルロ（KLMC）手法を提案する。幾何的混合性を確立し、条件数に依存する最適なレートを達成するとともに、リプシッツ連続なヘッセ行列を仮定したもとで、2次離散化を導入し、ウォッサーシュタイン誤差の上限を改善し、標準的なLMCよりもきめ細かい収束保証を達成する。

ABSTRACT

Langevin diffusion processes and their discretizations are often used for sampling from a target density. The most convenient framework for assessing the quality of such a sampling scheme corresponds to smooth and strongly log-concave densities defined on $\mathbb R^p$. The present work focuses on this framework and studies the behavior of Monte Carlo algorithms based on discretizations of the kinetic Langevin diffusion. We first prove the geometric mixing property of the kinetic Langevin diffusion with a mixing rate that is, in the overdamped regime, optimal in terms of its dependence on the condition number. We then use this result for obtaining improved guarantees of sampling using the kinetic Langevin Monte Carlo method, when the quality of sampling is measured by the Wasserstein distance. We also consider the situation where the Hessian of the log-density of the target distribution is Lipschitz-continuous. In this case, we introduce a new discretization of the kinetic Langevin diffusion and prove that this leads to a substantial improvement of the upper bound on the sampling error measured in Wasserstein distance.

研究の動機と目的

• 標準的な過減衰拡散ではなく、運動的ランジュバン拡散を活用することで、対数凸ターゲットのサンプリング効率を向上させること。
• 運動的ランジュバン拡散の幾何的混合性を、条件数に最適な依存関係で確立すること。
• 1次KLMCアルゴリズムのウォッサーシュタイン距離誤差上限をよりきめ細かく導出すること。
• ヘッセ行列がリプシッツ連続な条件下で、サンプリング誤差を低減する2次離散化スキームを導入すること。
• ウォッサーシュタイン距離の観点から、収束レートとサンプリング精度に関する理論的保証を提供すること。

提案手法

• 位置と速度の成分をもつ連続時間の運動的ランジュバン拡散過程を用い、対数密度の勾配とヘッセ行列を含む確率的微分方程式（SDE）で記述する。
• リャプノフ関数と固有値ギャップ解析を用いて、拡散過程の幾何的エルゴード性を確立し、条件数に最適な混合レートを証明する。
• 運動的SDEに対するオイラー型離散化を適用し、1次KLMCアルゴリズムを構築する。ステップサイズは離散化誤差を制御するために選択される。
• 連続的なダイナミクスをよりよく近似する新たな2次離散化スキームを導入し、特にヘッセ行列のリプシッツ連続性の下で精度を向上させる。
• 位置と速度を分離するための前処理行列Pを用いた変換された状態空間を採用し、濃度と誤差上限をよりきめ細かく制御可能にする。
• 期待される距離の上限を導出するため、証明においてミンコフスキー型およびグロワールド型不等式を用いる。ウォッサーシュタイン距離における収束レートを導出する。

実験結果

リサーチクエスチョン

• RQ1 強い対数凸ターゲットに対して、運動的ランジュエルン拡散の最適混合レートは何か？ また、条件数にどのように依存するか？
• RQ2 運動的ランジュエルン拡散に基づく1次KLMCアルゴリズムは、標準的なLMCと比較してウォッサーシュタイン誤差上限においてどのように異なるか？
• RQ3 対数密度のヘッセ行列がリプシッツ連続である場合、運動的ランジュエルンSDEの2次離散化は、サンプリング誤差の保証をどのように改善できるか？
• RQ4 KLMCフレームワークにおいて、ステップサイズhと問題の条件数に起因する収束レートの依存関係は何か？
• RQ5 前処理行列Pの選択は、KLMCアルゴリズムの収束性と安定性にどのように影響するか？

主な発見

• 運動的ランジュエルン拡散は、条件数に最適な依存関係を持つ幾何的混合性を示し、理論的下界と一致する。
• 1次KLMCアルゴリズムは、条件数とステップサイズに依存する収束レートを達成し、ウォッサーシュタイン誤差上限がO(ε)のオーダーをとる。
• ヘッセ行列がリプシッツ連続である仮定の下で、提案された2次KLMC離散化は、誤差をexp(−m²/(160M₂²h²))の要因で低減し、大幅に改善された上限を達成する。
• 2次KLMCの誤差上限は、主要項においてO(h²)に比例し、1次手法と比較してpおよびM₂により良い依存関係を示す。
• KLMCアルゴリズムの収束レートは、イテレーション数に対して幾何的であり、強い凸性パラメータmと拡散パラメータγに依存するレート因子(1−mh/(4γ))を有する。
• 解析により、適切なステップサイズとパrameter条件のもとで、KLMC出力とターゲット分布との間のウォッサーシュタイン距離がイテレーション数とともに指数的に減少することが示された。