[論文レビュー] Theoretical guarantees for approximate sampling from smooth and log-concave densities

Arnak S. Dalalyan|arXiv (Cornell University)|Dec 23, 2014

Markov Chains and Monte Carlo Methods参考文献 20被引用数 10

ひとこと要約

この論文は、高次元における滑らかで対数凸な密度からのサンプリングに対して、ランジュバン・モンテカルロ（LMC）アルゴリズムの非漸近的理論的保証を提供する。Kullback-Leibler（KL）ダイバージェンスの明示的な境界を確立し、強い凸性およびLipschitz勾配条件の下で、ステップサイズと反復回数の増加に伴い誤差が減少することを示している。

ABSTRACT

Sampling from various kinds of distributions is an issue of paramount importance in statistics since it is often the key ingredient for constructing estimators, test procedures or confidence intervals. In many situations, the exact sampling from a given distribution is impossible or computationally expensive and, therefore, one needs to resort to approximate sampling strategies. However, there is no well-developed theory providing meaningful nonasymptotic guarantees for the approximate sampling procedures, especially in the high-dimensional problems. This paper makes some progress in this direction by considering the problem of sampling from a distribution having a smooth and log-concave density defined on \(\RR^p\), for some integer \(p>0\). We establish nonasymptotic bounds for the error of approximating the target distribution by the one obtained by the Langevin Monte Carlo method and its variants. We illustrate the effectiveness of the established guarantees with various experiments. Underlying our analysis are insights from the theory of continuous-time diffusion processes, which may be of interest beyond the framework of log-concave densities considered in the present work.

研究の動機と目的

• 高次元設定における近似サンプリングアルゴリズムの厳密な非漸近的収束保証の欠如に対処すること。
• 滑らかで対数凸なターゲット分布からのサンプリングにおいて、ランジュバン・モンテカルロ（LMC）手法の精度に関する理論的境界を提供すること。
• 最適化アルゴリズムのよく理解された収束性と、サンプリングアルゴリズムの poorly understood な収束性の間のギャップを埋めること。
• オザキ離散化を用いて、LMCの近似誤差を定量化するための過摂動ランジュバン拡散への橋渡しを分析すること。
• LMC出力分布とターゲット分布間のKullback-Leiblerダイバージェンスに対する明示的かつ計算可能な境界を導出すること。

提案手法

• ターゲット分布をSDEの不変測度としてモデル化するため、連続時間の拡散過程と確率微分方程式（SDE）の理論を活用する。
• LMCアルゴリズムを過摂動ランジュバン拡散SDEの離散時間のEuler-Maruyama近似として分析する。
• Ozaki離散化スキームを用いて、連続拡散を近似する区分的オーナイズ・ウーレンボルト過程を定義する。
• Girsanovの定理とモーメントバウンドを用いて、LMC分布と拡散過程分布の間のKLダイバージェンスにバウンドを導出する。
• 平均値の定理とヘッセ行列のLipschitz連続性を用いて、ドリフト項における離散化誤差を制御する。
• モーメント不等式と行列ノルムバウンドを用いて、プロセス増分の四次モーメントを制御し、最終的にステップサイズ、次元、および問題パラメータの関数としての誤差バウンドを導出する。

実験結果

リサーチクエスチョン

• RQ1 滑らかで対数凸な密度からのサンプリングにおいて、LMCアルゴリズムの近似誤差に対して非漸近的バウンドをどのように確立できるか？
• RQ2 LMC出力とターゲット分布間のKullback-Leiblerダイバージェンスは、ステップサイズと反復回数の関数としてどのようにスケーリングされるか？
• RQ3 強い凸性およびLipschitz勾配仮定の下で、LMC手法における離散化誤差を厳密にバウンドできるか？
• RQ4 収束速度は次元 $ p $、条件数 $ M/m $、ヘッセ行列のLipschitz定数 $ L_f $ にどのように依存するか？
• RQ5 収束速度および次元依存性の観点から、LMCの理論的保証は勾配降下法のそれと比べてどのように異なるか？

主な発見

• 本論文は、LMC出力とターゲット分布間のKLダイバージェンスに対する非漸近的バウンドを確立し、ステップサイズ $ h $ に関して $ O(h^3) $ のオーダーで減少することを示している。
• バウンドはヘッセ行列のLipschitz定数 $ L_f $、次元 $ p $、時間ホライズン $ T $、および条件数 $ M/m $ に依存し、明示的な依存関係として $ (L_f T M p)^2 $ を示している。
• 収束速度は次元 $ p $ に依存しないという意味で、指数的ではなく多項式的スケーリングである。
• KLダイバージェンスのバウンドは、LMCと区分的オーナイズ・ウーレンボルト過程の新しいカップリングを介して導出されており、離散化誤差のモーメントバウンドによって誤差が制御されている。
• 解析により、LMCアルゴリズムは勾配降下法と同様に、望ましい精度 $ ho $ に対して対数的依存性を達成することが示されたが、問題パラメータへの依存はより複雑である。
• 理論的保証は、実験を通じて実証的に検証されており、導出されたバウンドの実用的関連性が示されている。