[論文レビュー] Nonasymptotic estimates for Stochastic Gradient Langevin Dynamics under local conditions in nonconvex optimization

Ying Zhang, Ömer Deniz Akyıldız+2 more|arXiv (Cornell University)|Oct 4, 2019

Markov Chains and Monte Carlo Methods参考文献 27被引用数 18

ひとこと要約

本稿は、非凸最適化における確率的勾配・ランジュヴィン動力学（SGLD）の非漸近的収束保証を、局所リプシッツ連続性および局所分散性条件の下で提供する。データに対する一様な依存性を排除した。Wasserstein-1およびWasserstein-2収束バウンドを確立し、期待超過リスクに対する非漸近的バウンドを導出することで、複雑で非i.i.d.な設定においても、理論的厳密性を保った実用的サンプリングと最適化を可能にする。

ABSTRACT

In this paper, we are concerned with a non-asymptotic analysis of sampling algorithms used in nonconvex optimization. In particular, we obtain non-asymptotic estimates in Wasserstein-1 and Wasserstein-2 distances for a popular class of algorithms called Stochastic Gradient Langevin Dynamics (SGLD). In addition, the aforementioned Wasserstein-2 convergence result can be applied to establish a non-asymptotic error bound for the expected excess risk. Crucially, these results are obtained under a local Lipschitz condition and a local dissipativity condition where we remove the uniform dependence in the data stream. We illustrate the importance of this relaxation by presenting examples from variational inference and from index tracking optimization.

研究の動機と目的

• 非凸最適化におけるSGLDの非漸近的収束見積もりを、より弱い局所的正則性条件の下で提供すること。
• 実際の応用ではしばしば現実的でないグローバルリプシッツ連続性および分散性仮定を排除すること。
• 局所条件の下でSGLDのWasserstein-1およびWasserstein-2距離における収束を確立すること。
• 非凸設定における期待超過リスクの非漸近的誤差バウンドを導出すること。
• 具体例を通じて、変分ベイズ推論およびインデックストラッキングへの適用可能性を示すこと。

提案手法

• 目的関数の勾配に対する局所リプシッツ連続性および局所分散性条件に依拠する分析。
• SGLDのSDE近似におけるドリフト項と拡散項を制御するため、リャプノフ関数アプローチを用いる。
• カップリングおよびモーメント推定を用いて、Wasserstein-1およびWasserstein-2距離における非漸近的バウンドを導出する。
• ステップサイズに依存する定数を組み込み、確率的勾配の条件付きバイアスおよび分散を考慮する。
• モーメントバウンドおよび指数モーメントを用いて主要な推定値を導出し、データモーメントおよび逆温度に明示的な依存性を示す。
• 理論的結果は、定数の解析的表現およびモデルパラメータとデータモーメントへの依存性によって検証される。

実験結果

リサーチクエスチョン

• RQ1 非凸最適化において、グローバルではなく局所的正則性条件の下で、SGLDの非漸近的収束を確立できるか？
• RQ2 SGLDのWasserstein-2収束速度は、局所的勾配特性およびデータ分布のモーメントにどのように依存するか？
• RQ3 局所分散性およびリプシッツ条件の下で、期待超過リスクの非漸近的バウンドは何か？
• RQ4 収束バウンドの定数は次元、逆温度、およびデータストリームの特性にどのようにスケーリングされるか？
• RQ5 この理論的枠組みは、変分ベイズ推論やインデックストラッキングといった実世界の問題に適用可能か？

主な発見

• グローバルバウンドを要しない、局所リプシッツ連続性および局所分散性条件の下で、Wasserstein-1距離における非漸近的収束が確立された。
• Wasserstein-2距離における非漸近的収束バウンドが導出され、これが期待目的関数値の非漸近的超過リスクバウンドを直接示している。
• 収束速度はステップサイズ、次元、逆温度、およびデータおよび確率的勾配のモーメントに依存し、$\mathbb{E}[\eta(X_0)]$および$\mathbb{E}[|X_0|\eta(X_0)]$に明示的な依存性を示す。
• バウンドにおける定数$\hat{c}$は$O\left(\sqrt{\frac{d}{\beta}} \cdot e^{C(1 + \beta L_1 \mathbb{E}[\eta(X_0])(1 + d/\beta))}\right)$のスケーリングを示し、次元およびデータの複雑さへの感受性を反映している。
• グローバル正則性仮定が成り立たないが局所条件が満たされるような実用的問題（例：変分ベイズ推論、インデックストラッキング）にも適用可能である。
• 従来の研究と比較して、データストリームに対する一様な依存性を排除したため、実世界の非凸最適化への応用範囲が広がった。