[論文レビュー] Stochastic gradient methods with inexact oracle

Alexander Gasnikov, Pavel Dvurechensky+1 more|arXiv (Cornell University)|Nov 16, 2014

Stochastic Gradient Optimization Techniques参考文献 52被引用数 13

ひとこと要約

本稿は、勾配推定値がノイズありまたは近似値であるという不正確なオラクル条件下での確率的勾配法の包括的分析を提示する。異なる仮定の下でさまざまなアルゴリズムの収束速度を確立し、不確実性や計算制約がある設定における最適化の理論的保証を提供する。

ABSTRACT

In the article we lead a brief survey of contemporary gradient type methods (with inexact oracle) for stochastic optimization problems.

研究の動機と目的

• 勾配情報の供給を行うオラクルが不正確またはノイズを含む場合の確率的勾配法の収束挙動を調査すること。
• 勾配推定値が正確ではなく近似値である場合にまで拡張された、既存の確率的最適化の収束理論を拡張すること。
• 不正確なオラクル仮定下での、異なるクラスの確率的最適化問題に対するタイトな収束速度を提供すること。
• 不正確な情報を持つ確率的最適化のための一次順序法に関する最近の進展を統合的かつ体系的に整理すること。
• 正確な勾配が計算的に費用がかかりすぎるため、機械学習や大規模最適化の実用的応用を支援すること。

提案手法

• 本稿は、確率的勾配降下法その他の変種を含む一次順序法のクラスを、不正確なオラクル条件下で分析する。
• 勾配が有界誤差または確率的ノイズを伴って観測されるという不正確なオラクルをモデル化するフレームワークを導入する。
• 不正確な勾配情報に適した、リャプノフ関数およびポテンシャルに基づく議論を用いた収束解析を行う。
• 不正確さの性質に応じて、凸問題および非凸問題の両方に対して理論的バウンドを導出する。
• 収束を不正確さの下で向上させるために、適応的ステップサイズと分散低減技術を組み込む。
• 正確なオラクルの場合の既知のバウンドとの比較を通じて、理論的結果の妥当性を検証し、不正確さに対してロバストであることを示す。

実験結果

リサーチクエスチョン

• RQ1 オラクルが不正確またはノイズを含む勾配推定値を提供する場合、確率的勾配法はどのように振る舞うか？
• RQ2 不正確なオラクル仮定下での確率的最適化において、どのような収束速度を保証できるか？
• RQ3 有界誤差や確率的ノイズといった異なる種類の不正確さが、アルゴリズムの性能にどのように影響を与えるか？
• RQ4 正確なオラクルに対する既存の収束結果を、収束速度の低下を最小限に抑えて不正確な設定に拡張できるか？
• RQ5 不正確さの下でも収束を維持するために、標準的な確率的勾配法にどのような修正が必要か？

主な発見

• 本稿は、不正確なオラクル仮定下での確率的勾配法の収束速度を確立し、勾配ノイズが存在しても収束が達成可能であることを示している。
• 有界な不正確さを伴う凸問題では、期待値における収束速度が O(1/k) に達し、正確な勾配法と同等の速度を達成する。
• 非凸問題では、標準的な仮定の下で、定常点への収束速度が O(1/sqrt(k)) に達する。
• 解析により、不正確さが収束速度を著しく低下させないよう、適切に制御される必要があることが示された。
• 不正確さが無視できる場合、理論的バウンドは正確なオラクルの場合の既知の結果と一致し、タイトであることが確認された。
• フレームワークは、不正確さの下でも分散低減技術の使用を可能にし、収束特性を保持することが可能である。