[論文レビュー] Nonasymptotic analysis of Stochastic Gradient Hamiltonian Monte Carlo under local conditions for nonconvex optimization

Ömer Deniz Akyıldız, Sotirios Sabanis|arXiv (Cornell University)|Feb 13, 2020

Markov Chains and Monte Carlo Methods参考文献 32被引用数 11

ひとこと要約

本稿では、非凸最適化における局所的条件下での確率的勾配ハミルトニアンモンテカルロ（SGHMC）の非漸近的解析を提示し、反復回数に依存しない、Wasserstein-2距離における一様収束レート $\eta^{1/4}$ を確立した。この解析により、SGHMCがグローバル最適化子としての観点で最高の既知の収束レートを達成し、ベイズ推論および一般化に関する非漸近的バウンドが得られた。

ABSTRACT

We provide a nonasymptotic analysis of the convergence of the stochastic gradient Hamiltonian Monte Carlo (SGHMC) to a target measure in Wasserstein-2 distance without assuming log-concavity. Our analysis quantifies key theoretical properties of the SGHMC as a sampler under local conditions which significantly improves the findings of previous results. In particular, we prove that the Wasserstein-2 distance between the target and the law of the SGHMC is uniformly controlled by the step-size of the algorithm, therefore demonstrate that the SGHMC can provide high-precision results uniformly in the number of iterations. The analysis also allows us to obtain nonasymptotic bounds for nonconvex optimization problems under local conditions and implies that the SGHMC, when viewed as a nonconvex optimizer, converges to a global minimum with the best known rates. We apply our results to obtain nonasymptotic bounds for scalable Bayesian inference and nonasymptotic generalization bounds.

研究の動機と目的

• 非凸最適化において対数凹性の仮定をせず、SGHMCの非漸近的収束バウンドを確立すること。
• 局所的条件下で、SGHMCの収束がWasserstein-2距離においてどのように目標測度に近づくかを定量化すること。
• 非凸問題におけるスケーラブルなベイズ推論および一般化に関する非漸近的バウンドを導出すること。
• 局所的滑らかさおよび発散性条件の下で、反復回数に依存しない収束レートがSGHMCによって達成可能かどうかを示すこと。

提案手法

• 連続時間の拡散過程とそのEuler離散化を用いてSGHMCアルゴリズムを分析し、数値スキームと連続ダイナミクスを比較するためのカップリング論法を用いる。
• 二つのプロセス（数値スキームと連続SDE）の出発時刻を一致させることで、Wasserstein-2距離における収縮論法を適用する。
• 時間区間ごとの寄与にWasserstein距離を新規に分解し、各項を局所的勾配条件から導かれる収縮係数でバウンドする。
• モーメントバウンドと発散性仮定を用いてプロセスの成長を制御し、有限な4次モーメントと一様安定性を保証する。
• ChauとRásonyi（2022）の結果および補題5.4を用いて、SGHMCの分布と目標測度との距離をバウンドする。
• Wasserstein距離と勾配のリプシッツ定数を用いて、ポテンシャル関数の差 $\mathbb{E}[U(\theta_n^\eta)] - \mathbb{E}[U(\theta_\infty)]$ の非漸近的バウンドを導出する。

実験結果

リサーチクエスチョン

• RQ1 SGHMCは、対数凹性を仮定せず、非凸ポテンシャル関数においてWasserstein-2距離で一様な非漸近的収束を達成できるか？
• RQ2 局所的条件下で、SGHMCがグローバル最適化子としての観点で達成する最適な収束レートは何か？
• RQ3 SGHMCの収束から、ベイズ推論および一般化に関する非漸近的バウンドをどのように導出できるか？
• RQ4 局所的滑らかさおよび発散性の下で、反復回数に依存しない収束レートが達成可能か？

主な発見

• SGHMCの分布と目標測度との間のWasserstein-2距離は、反復回数に依存せず、$C_2^* \eta^{1/4}$ で一様にバウンドされる。
• 局所的条件下での非凸最適化におけるSGHMCの収束レート $\eta^{1/4}$ は、これまでに知られている最高のレートである。
• SGHMCの収束レートを基に、ベイズ推論および一般化に関する非漸近的バウンドを確立した。
• 時間離散化カップリング論法と収縮推定を用いて、Wasserstein距離に対する一様制御を達成した。
• バウンド定数は次元 $d$ に対して $\mathcal{O}(e^d)$ の依存性を示し、問題の高次元性を反映している。
• ポテンシャル関数の差は、$\mathbb{E}[U(\theta_n^\eta)] - \mathbb{E}[U(\theta_\infty)] \leq (\overline{L}_1 C_m + h_0)(C_1^* d^{1/2} \eta^{1/2} + C_2^* \eta^{1/4} + C_3^* e^{-C_4^* \eta n})$ を満たし、グローバル収束を確認した。