[論文レビュー] Bounding the error of discretized Langevin algorithms for non-strongly log-concave targets

Arnak S. Dalalyan, Avetik Karagulyan+1 more|arXiv (Cornell University)|Jun 20, 2019

Markov Chains and Monte Carlo Methods参考文献 47被引用数 16

ひとこと要約

本稿は、非強凸対数凹型で滑らかな目標分布からのサンプリングを目的とした、離散化されたランジュバンアルゴリズム（LMC、KLMC、KLMC2）の Wasserstein-$q$ 誤差について、漸近的でない上界を提供する。リプシッツ連続な勾配およびヘッシアンの仮定の下で、誤差に次元に適応したスケーリングを用いることで、次元に関して多項式的にスケーリングされる計算複雑性が得られ、非有界ドメイン上におけるこのような目標分布に対する最初の体系的な解析を提供する。

ABSTRACT

In this paper, we provide non-asymptotic upper bounds on the error of sampling from a target density using three schemes of discretized Langevin diffusions. The first scheme is the Langevin Monte Carlo (LMC) algorithm, the Euler discretization of the Langevin diffusion. The second and the third schemes are, respectively, the kinetic Langevin Monte Carlo (KLMC) for differentiable potentials and the kinetic Langevin Monte Carlo for twice-differentiable potentials (KLMC2). The main focus is on the target densities that are smooth and log-concave on $\mathbb R^p$, but not necessarily strongly log-concave. Bounds on the computational complexity are obtained under two types of smoothness assumption: the potential has a Lipschitz-continuous gradient and the potential has a Lipschitz-continuous Hessian matrix. The error of sampling is measured by Wasserstein-$q$ distances. We advocate for the use of a new dimension-adapted scaling in the definition of the computational complexity, when Wasserstein-$q$ distances are considered. The obtained results show that the number of iterations to achieve a scaled-error smaller than a prescribed value depends only polynomially in the dimension.

研究の動機と目的

• 非有界ドメイン上での非強凸対数凹型で滑らかな目標分布に対するサンプリング誤差の理論的理解のギャップを埋める。
• LMC、KLMC、KLMC2 の3つの離散化ランジュバンスキームにおける Wasserstein-$q$ 距離の非漸近的バウンドを提供する。
• リプシッツ勾配およびヘッシアンの条件下での計算複雑性バウンドを確立する。
• Wasserstein-$q$ 誤差を用いる際の複雑性測度において、次元に適応したスケーリングを提唱する。
• 誤差解析を支えるために、対数凹型分布のモーメントバウンドを導出する。

提案手法

• 適応的ステップサイズを用いたランジュバン・モンテカルロ（LMC）アルゴリズムを、ランジュバン拡散のオイラー離散化により用いる。
• 2つの運動量を組み込んだ動的バージョン（KLMC：微分可能ポテンシャル、KLMC2：2回微分可能ポテンシャル）を分析し、収束性の向上を図る。
• 誤差指標として Wasserstein-$q$ 距離を用い、次元に適応したスケーリングを導入することで、次元に依存しない複雑性バウンドを保証する。
• 対数ソボレフおよびパオンカーリング不等式を用いて、濃縮不等式と尾部推定により、目標分布のモーメントバウンドを導出する。
• 上不完全ガンマ関数と尾部バウンドを用いて、目標測度下での確率的ベクトルのノルムのモーメントを制御する。
• 対称化の議論と Ledoux (2001) の結果を用いて、目標分布の $\ell_2$-ノルムの尾部をバウンドする。

実験結果

リサーチクエスチョン

• RQ1 リプシッツ連続勾配をもつ非強凸対数凹型の目標分布からのサンプリングにおいて、LMCアルゴリズムの非漸近的誤差バウンドは何か？
• RQ2 リプシッツヘッシアンの仮定の下で、KLMCおよびKLMC2の計算複雑性は次元に対してどのようにスケーリングされるか？
• RQ3 非強凸対数凹型の目標分布に対して、Wasserstein-$q$ 誤差が次元に多項式的依存性を示す複雑性でバウンド可能か？
• RQ4 これらのスキームのサンプリング誤差の上界を最小化する最適なステップサイズは何か？
• RQ5 対数凹型および滑らかさの仮定の下で、目標分布の $\ell_2$-ノルムのモーメントバウンドはどのように導出可能か？

主な発見

• 最適ステップサイズを用いた LMC アルゴリズムにおいて、平均反復と目標分布との間のカルバック・ライブラー発散は、$M\mu_2^2 \leq \kappa p^\beta$ を仮定すると、$\sqrt{2\kappa p^{1+\beta}/K}$ でバウンドされる。
• リプシッツ勾配条件の下で、次元に適応したスケーリングを用いることで、LMC の Wasserstein-$q$ 誤差は次元に関して多項式的にスケーリングされる計算複雑性でバウンドされる。
• KLMC および KLMC2 については、リプシッツヘッシアンの仮定の下で、Wasserstein-$q$ 誤差に対する非漸近的バウンドが導出され、次元に多項式的依存性が示された。
• モーメント $\mathbf{E}[\|\boldsymbol{\vartheta}\|_2^k]$ は、ガンマ関数と尾部推定により得られた明示的な定数を用いて $\mu_2^k$ の定数倍でバウンドされる。
• モーメント比定数の数値バウンドとして、$A_3 \leq 40.40$ および $A_4 \leq 441.43$ が得られ、一部の設定では既存の文献のバウンドを改善した。
• 解析により、滑らかさおよびモーメントの弱い条件の下でも、非強凸対数凹型の目標分布に対して誤差が次元に関して多項式的に依存することが示された。