[論文レビュー] The Randomized Midpoint Method for Log-Concave Sampling

Ruoqi Shen, Yin Tat Lee|arXiv (Cornell University)|Sep 12, 2019

Markov Chains and Monte Carlo Methods被引用数 25

ひとこと要約

本稿は、高次元の対数凸分布からのサンプリングに向けた、非定常ランジュバン拡散に基づく新規なマルコフ連鎖モンテカルロ（MCMC）アルゴリズムを提案する。Wasserstein誤差が $\epsilon \cdot D$ に達するまでのステップ数は $\tilde{O}(\kappa^{7/6}/\epsilon^{1/3} + \kappa/\epsilon^{2/3})$ であり、従来の方法の $\tilde{O}(\kappa^{1.5}/\epsilon)$ より顕著に改善されており、$O(\kappa \log \frac{1}{\epsilon})$ の並列ステップ数で効率的な並列化が可能である。

ABSTRACT

Sampling from log-concave distributions is a well researched problem that has many applications in statistics and machine learning. We study the distributions of the form $p^{*}\propto\exp(-f(x))$, where $f:\mathbb{R}^{d} ightarrow\mathbb{R}$ has an $L$-Lipschitz gradient and is $m$-strongly convex. In our paper, we propose a Markov chain Monte Carlo (MCMC) algorithm based on the underdamped Langevin diffusion (ULD). It can achieve $ε\cdot D$ error (in 2-Wasserstein distance) in $ ilde{O}\left(κ^{7/6}/ε^{1/3}+κ/ε^{2/3} ight)$ steps, where $D\overset{\mathrm{def}}{=}\sqrt{\frac{d}{m}}$ is the effective diameter of the problem and $κ\overset{\mathrm{def}}{=}\frac{L}{m}$ is the condition number. Our algorithm performs significantly faster than the previously best known algorithm for solving this problem, which requires $ ilde{O}\left(κ^{1.5}/ε ight)$ steps. Moreover, our algorithm can be easily parallelized to require only $O(κ\log\frac{1}ε)$ parallel steps. To solve the sampling problem, we propose a new framework to discretize stochastic differential equations. We apply this framework to discretize and simulate ULD, which converges to the target distribution $p^{*}$. The framework can be used to solve not only the log-concave sampling problem, but any problem that involves simulating (stochastic) differential equations.

研究の動機と目的

• 条件数 $\kappa$ と誤差許容値 $\epsilon$ に依存する部分を改善した、高次元の対数凸分布に対するより高速なサンプリングアルゴリズムの開発。
• 従来の最先端手法が抱える $\tilde{O}(\kappa^{1.5}/\epsilon)$ の複雑さのボトルネックを克服すること。
• 非定常ランジュバンダイナミクスの効率的シミュレーションを可能にする、確率微分方程式（SDE）の離散化フレームワークの設計。
• メトロポリス補正や高階の滑らかさ仮定を必要とせず、$\epsilon$ に対して非線形な依存性を達成すること。
• サンプリングプロセスの効率的な並列化を実現し、並列ステップ数を $O(\kappa \log \frac{1}{\epsilon})$ にまで削減すること。

提案手法

• 非定常ランジュバン拡散（ULD）のシミュレーションに特化した、確率微分方程式（SDE）のための新規な離散化フレームワークを提案。
• $L$-リプシッツ連続な勾配と $m$-強凸性の仮定の下で、安定性と収束性を保証するランダム化ミッドポイント法を導入。
• 各ステップを $R$ 個のサブステップに分割し、各サブステップでランダム化ミッドポイント近似を適用することで、誤差伝搬を制御。
• SDEのドリフト項および拡散項の離散化誤差を抑え込むために、速度過程の再帰的近似を採用。
• 勾配 $\nabla f$ の $L$-リプシッツ連続性と $f$ の強凸性を用いて誤差バウンドを導出し、目的分布 $p^* \propto \exp(-f(x))$ への収束を保証。
• 問題のスケール不変な尺度として、有効直径 $D = \sqrt{d/m}$ を用いることで、スケール不変な収束保証を可能にする。

実験結果

リサーチクエスチョン

• RQ1 条件数 $\kappa$ と誤差許容値 $\epsilon$ に依存する部分を改善した、対数凸分布に対するより高速なサンプリング収束を達成できるか？
• RQ2 標準的な滑らかさ仮定の下で、メトロポリス補正を必要とせず、$\epsilon$ に対して非線形な依存性を達成できる非メトロポリス調整アルゴリズムを設計可能か？
• RQ3 MCMCサンプリングにおいて高精度と効率的な並列化を両立できるSDEの離散化フレームワークを構築可能か？
• RQ4 ランダム化ミッドポイント法は、既存のSDE離散化スキームと比較して、収束速度および安定性の面で優れているか？
• RQ5 対数凸分布のサンプリングにおいて、2-Wasserstein距離で $\epsilon \cdot D$ の誤差を達成するための最小並列ステップ数は何か？

主な発見

• 提案アルゴリズムは、2-Wasserstein距離において $\epsilon \cdot D$ の誤差に達するまでのステップ数として $\tilde{O}(\kappa^{7/6}/\epsilon^{1/3} + \kappa/\epsilon^{2/3})$ を達成し、従来の最良の $\tilde{O}(\kappa^{1.5}/\epsilon)$ より顕著に改善された。
• 本手法は、標準的な $L$-リプシッツ連続性と $m$-強凸性仮定の下で、$\epsilon$ に対して非線形依存性を達成する最初の非メトロポリス調整手法である。
• 並列化により、並列ステップ数を $O(\kappa \log \frac{1}{\epsilon})$ にまで削減でき、実行時間（ウォルク・タイム）の顕著な短縮が可能である。
• 誤差解析により、連続的な速度過程からの離散的過程のずれを厳密にバウンドし、再帰的近似とリプシッツ連続性を用いてその妥当性を裏付けた。
• 本フレームワークは一般性を有し、対数凸サンプリングに限らず、（確率的）微分方程式のシミュレーションに応用可能である。
• 有効直径 $D = \sqrt{d/m}$ をスケール不変な誤差指標として用いることで、従来の定義を明確に統合し、$f$ のスケーリングやテンソル積に対して不変な結果が得られるようになった。