[論文レビュー] A Hitting Time Analysis of Stochastic Gradient Langevin Dynamics

Yuchen Zhang, Percy Liang+1 more|arXiv (Cornell University)|Feb 18, 2017

Stochastic Gradient Optimization Techniques参考文献 24被引用数 65

ひとこと要約

本論文は非凸最適化における SGLD を分析し、restricted Cheeger 定数を介した hitting-time フレームワークを導入し、population risk の近似局所最小点への多項式時間収束を証明するとともに、Massart ノイズの下での zero-one loss 学習可能性を改善する。

ABSTRACT

We study the Stochastic Gradient Langevin Dynamics (SGLD) algorithm for non-convex optimization. The algorithm performs stochastic gradient descent, where in each step it injects appropriately scaled Gaussian noise to the update. We analyze the algorithm's hitting time to an arbitrary subset of the parameter space. Two results follow from our general theory: First, we prove that for empirical risk minimization, if the empirical risk is point-wise close to the (smooth) population risk, then the algorithm achieves an approximate local minimum of the population risk in polynomial time, escaping suboptimal local minima that only exist in the empirical risk. Second, we show that SGLD improves on one of the best known learnability results for learning linear classifiers under the zero-one loss.

研究の動機と目的

• 非凸経験的リスク最小化における浅い局所極小点からの回避のための SGLD の研究を動機づける。
• restricted Cheeger 定数に基づく非漸近的 hitting-time 分析を導入する。
• 目的関数の小さな摂動に対する hitting time の安定性を示す。
• このフレームワークを経験的リスク最小化に適用し、Massart ノイズ下のゼロ-ワン損失を用いた線形分類器の学習可能性の結果を向上させる。

提案手法

• 確率勾配と温度パラメータでスケーリングされたガウスノイズを用いて SGLD を定義する。
• restricted Cheeger 定数を、 hitting time、f のジオメトリ、および安定性を結ぶ指標として導入する。
• hitting time を restricted Cheeger constant に関連付ける一般的な非漸近境界（定理 1）を証明する。
• 目的関数の幾何的性質によって restricted Cheeger constant の下限を導出する（命題 2 および 3）。
• 経験的リスクの平滑化を用いて population risk に関連づけ、保証の移行を確立する（定理 2）。
• このフレームワークをゼロ-ワン損失の下で線形分類器を学習する際に適用し、学習可能性の結果を改善する。

実験結果

リサーチクエスチョン

• RQ1 SGLD は非凸の経験的リスクの景観における浅い局所極小点から多項式時間で逃げ出すことができるか？
• RQ2 restricted Cheeger 定数は hitting time と摂動下の安定性をどのように支配するか？
• RQ3 平滑化された経験的リスクで実行した場合、SGLD はどの条件下で population risk の近似局所最小点を見つけるか？
• RQ4 Massart ノイズを伴うゼロ-ワン損失の下で、SGLD は線形分類器の学習可能性の境界を改善するか？

主な発見

• SGLD によるターゲット集合への hitting time は有限であり、問題・アルゴリズムのパラメータに対して restricted Cheeger constant を介して多項式的に境界付けられる。
• 経験的リスクが population risk に一様に近い場合、SGLD は population risk の近似局所最小点を多項式時間で見つけることができる。
• hitting-time の境界は、目的関数の小さな一様摂動に対して安定であり、経験的リスクから population risk への移行を可能にする。
• SGLD はゼロ-ワン損失の下で線形分類器を学習する際の学習可能性の結果をより強くし、Massart ノイズを 0.5 未満の一定量まで扱える。
• 非滑らかな経験的リスクに対する平滑化アプローチにより、ゼロ-ワン損失を含む広範な損失関数へフレームワークを適用できる。
• 結果は、f の幾何的性質と最適化ダイナミクスを関連付けることにより、非凸最適化と統計的学習を統合する。