[論文レビュー] A Stochastic Trust Region Algorithm

Frank E. Curtis, Katya Scheinberg+1 more|arXiv (Cornell University)|Dec 29, 2017

Stochastic Gradient Optimization Techniques参考文献 18被引用数 2

ひとこと要約

本稿では、勾配推定ノルムがユーザーが定義した範囲内にある場合に正規化ステップを用いることで、正規化ステップと標準ステップの間を動的に切り替える確率的信頼領域アルゴリズムを提案する。数値実験では、凸および非凸の機械学習問題において、従来の確率的勾配法と同等の収束速度を達成するとともに、優れた性能を示す。

ABSTRACT

An algorithm is proposed for solving stochastic and finite sum minimization problems. Based on a trust region methodology, the algorithm employs normalized steps, at least as long as the norms of the stochastic gradient estimates are within a user-defined interval. The complete algorithm---which dynamically chooses whether or not to employ normalized steps---is proved to have convergence guarantees that are similar to those possessed by a traditional stochastic gradient approach under various sets of conditions related to the accuracy of the stochastic gradient estimates and choice of stepsize sequence. The results of numerical experiments are presented when the method is employed to minimize convex and nonconvex machine learning test problems, illustrating that the method can outperform a traditional stochastic gradient approach.

研究の動機と目的

• 有限和および確率的最小化問題に対する頑健な確率的最適化アルゴリズムの開発を目的とする。
• 勾配推定ノルムに基づいて、正規化ステップと標準ステップの間を動的に選択することにより、収束行動の改善を図ること。
• 勾配の精度とステップサイズ列に関する現実的な仮定の下で、従来の確率的勾配法と同等の理論的収束保証を維持すること。
• 実験的に、実用的な機械学習問題における標準的確率的勾配アプローチと比較して、本アルゴリズムの優位性を検証すること。

提案手法

• アルゴリズムは、確率的勾配推定のノルムに基づいてステップを調整する信頼領域フレームワークを採用する。
• 確率的勾配推定のノルムがユーザーが定義した区間内にある限り、正規化ステップが使用される。
• 現在の勾配推定の大きさに基づいて、正規化ステップか標準ステップかを動的に決定する。
• 勾配推定の精度とステップサイズ列の選択に関する条件下で収束が分析される。
• これらの条件下で、従来の確率的勾配法と同等の収束保証が保証される。
• 数値実験により、凸および非凸の機械学習テスト問題に対するアルゴリズムの性能が評価される。

実験結果

リサーチクエスチョン

• RQ1 現実的な勾配精度とステップサイズ条件のもとで、信頼領域に基づく確率的アルゴリズムは、標準的確率的勾配法と同等の収束速度を維持できるか？
• RQ2 正規化ステップと標準ステップの間での動的切り替えが、確率的最適化における収束性と性能にどのように影響するか？
• RQ3 提案されたアルゴリズムは、凸および非凸の機械学習問題において、従来の確率的勾配法を上回る性能を示すか？
• RQ4 ユーザーが定義する勾配ノルムの区間が、アルゴリズムの安定性と収束性に与える影響は何か？
• RQ5 確率的勾配ノイズのレベルが変化する条件下で、アルゴリズムはどのように振る舞うか？

主な発見

• 勾配の精度とステップサイズ列に関する標準的な仮定のもとで、提案されたアルゴリズムは、従来の確率的勾配法と同等の収束保証を達成する。
• 数値実験の結果、本アルゴリズムは、凸および非凸の機械学習テスト問題において、標準的確率的勾配法を上回る性能を示す。
• 定義された勾配ノルム区間内で正規化ステップを用いることで、安定性と収束性の両方が向上する。
• 動的ステップ選択により、理論的収束特性を損なわずに性能が向上する。
• 本手法は、非凸最適化タスクが機械学習で一般的なさまざまな問題タイプに対して、頑健であることが示された。