[論文レビュー] Sampling from a log-concave distribution with Projected Langevin Monte Carlo

Sébastien Bubeck, Ronen Eldan+1 more|arXiv (Cornell University)|Jul 9, 2015

Markov Chains and Monte Carlo Methods参考文献 22被引用数 69

ひとこと要約

本稿では、確率的勾配更新とユークリッド射影を組み合わせることで、コンpactな凸体上の対数凸分布からのサンプリングを実行するマーカフチェーン手法、Projecte d Langevin Monte Carlo (PLMC) を提案する。均一なターゲットに対しては $ widetilde{O}(n^7)$ ステップの混合時間、一般の対数凸ターゲットに対しては $ widetilde{O}(n^{12})$ ステップの混合時間で多項式時間収束を確立し、hit-and-run などのゼロ次元手法とは異なり、1次オракルに基づく代替手法を提供する。

ABSTRACT

We extend the Langevin Monte Carlo (LMC) algorithm to compactly supported measures via a projection step, akin to projected Stochastic Gradient Descent (SGD). We show that (projected) LMC allows to sample in polynomial time from a log-concave distribution with smooth potential. This gives a new Markov chain to sample from a log-concave distribution. Our main result shows in particular that when the target distribution is uniform, LMC mixes in $\ ilde{O}(n^7)$ steps (where $n$ is the dimension). We also provide preliminary experimental evidence that LMC performs at least as well as hit-and-run, for which a better mixing time of $\ ilde{O}(n^4)$ was proved by Lov{\\'a}sz and Vempala.

研究の動機と目的

• コンパクトな凸集合上の対数凸分布からの効率的サンプリングを、1次情報に基づいて実現するマーカフチェーン・モンテカルロ手法の開発。
• 射影を用いたラングジュアン・モンテカルロアルゴリズムの制約付き領域への拡張により、初期値が悪くても安定性と収束性を保証すること。
• ポテンシャル関数の滑らかさとリプシッツ連続性の条件下で、射影ラングジュアン・モンテカルロの混合時間に関する理論的保証の提供。
• 実践的に、hit-and-run などの最先端のゼロ次元手法と同等か、それ以上の性能を示す1次オラクルベースのサンプリングが、高次元におけるサンプリングで達成可能かどうかの検証。

提案手法

• アルゴリズムは射影付き確率的勾配更新を用いる：$\overline{X}_{k+1} = \mathcal{P}_K\left(\overline{X}_k - \frac{\eta}{2}\nabla f(\overline{X}_k) + \sqrt{\eta}\xi_k\right)$、ここで $\xi_k$ は独立同一分布に従う標準正規ノイズ。
• 射影 $\mathcal{P}_K$ により、すべての反復点が凸体 $K$ 内に保たれ、コンパクトにサポートされた分布からのサンプリングが可能になる。
• 解析はカップリング技術に依拠し、真のチェインと近似チェインの Wasserstein 距離に対するバウンディングにより、全変動誤差を制御する。
• 主な技術的ツールとして、射影によって生じる特異性を有する拡散過程の新しい解析があり、非制約ケースからの結果の拡張を図る。
• ポテンシャル関数 $f$ に対して $L$-リプシッツ連続性および $\beta$-滑らかさの仮定の下で収束が示される。
• 収束と混合のバランスを取るために、$R$ を包摂球の半径として、ステップサイズ $\eta = \widetilde{\Theta}(R^2/N)$ を用いる。

実験結果

リサーチクエスチョン

• RQ1 射影を用いることで、ラングジュアン・モンテカルロをコンパクトにサポートされた対数凸分布へ拡張可能であり、多項式時間収束を維持できるか？
• RQ2 射影ラングジュアン・モンテカルロアルゴリズムの、均一および非均一な対数凸分布に対する混合時間は何か？
• RQ3 混合時間および実用的効率の観点から、PLMC は hit-and-run などのゼロ次元手法と比較してどの程度の性能を示すか？
• RQ4 高次元におけるサンプリングにおいて、1次オラクルベースのサンプリングがゼロ次元手法と同等またはそれ以上の性能を達成できるか？

主な発見

• ターゲット分布が凸体上に一様分布である場合、射影ラングジュアン・モンテカルロアルゴリズムは $\widetilde{O}(n^7)$ ステップの混合時間を達成する。
• 一般の対数凸分布に対しては、混合時間の上限が $\widetilde{O}\left(\frac{R^6 \max(n, RL, R\beta)^{12}}{\varepsilon^{12}}\right)$ で与えられ、ここで $R$ は包摂球の半径である。
• 本手法は、関数値クエリを必要とする従来の手法とは異なり、1次オラクルアクセス（勾配情報）のみを用いる。
• 実験的結果では、PLMC はボックスおよびボックスアンドボール凸体の両方で hit-and-run と同等の体積推定を達成し、実用的にはわずかに高速であることが示された。
• 理論的解析により、射影ステップのおかげで初期値が凸体の隅にあっても、連続的な移動が保証されるため、PLMC は多項式時間収束を維持することが示された。
• 本手法は初期値に強く、境界付近から開始した場合に hit-and-run が示す長時間の待機を回避する。