[論文レビュー] Asymptotic Optimality in Stochastic Optimization

John C. Duchi, Feng Ruan|arXiv (Cornell University)|Dec 16, 2016

Stochastic Gradient Optimization Techniques参考文献 21被引用数 9

ひとこと要約

本稿では、ハジェクとレキャムのフレームワークに類似した局所ミニマックス理論を導入することで、確率的凸最適化における関数固有の下界と収束保証を確立した。Nesterovのデュアルエーディティブ法が傾き安定性を持つ問題において漸近的最適性を達成することを示し、一方で標準的な確率的勾配法は非線形制約において失敗することを明らかにした。これにより、最適性を達成するためにはリーマン幾何的勾配法が必要となることが示された。

ABSTRACT

We study local complexity measures for stochastic convex optimization problems, providing a local minimax theory analogous to that of Hájek and Le Cam for classical statistical problems. We give complementary optimality results, developing fully online methods that adaptively achieve optimal convergence guarantees. Our results provide function-specific lower bounds and convergence results that make precise a correspondence between statistical difficulty and the geometric notion of tilt-stability from optimization. As part of this development, we show how variants of Nesterov's dual averaging---a stochastic gradient-based procedure---guarantee finite time identification of constraints in optimization problems, while stochastic gradient procedures fail. Additionally, we highlight a gap between problems with linear and nonlinear constraints: standard stochastic-gradient-based procedures are suboptimal even for the simplest nonlinear constraints, necessitating the development of asymptotically optimal Riemannian stochastic gradient methods.

研究の動機と目的

• 古典的統計におけるHájekとLe Camの局所漸近的ミニマックス理論に類似した、問題固有のミニマックス理論を確率的凸最適化に開発すること。
• 制約付き確率的最適化問題の統計的・計算的難易度を特定すること。
• 非線形制約がある場合に標準的な確率的勾配法が劣化することを同定すること。
• 傾き安定性などの幾何的性質を活用して、最適収束レートを達成する適応的でオンラインなアルゴリズムを設計すること。
• 統計的難易度と最適化における傾き安定性という幾何的概念との正確な対応関係を確立すること。

提案手法

• 真の分布Pの周囲の局所的複雑性をモデル化するため、傾き摂動を用いて定義された確率測度の収縮近傍を導入する。
• 摂動された分布の集合上で期待損失の最大値を測る局所ミニマックスリスクを定義し、その収縮レートを k^{-1/2} とする。
• 解の傾きへの感受性を捉える行列Dを用いて、Γ = D Cov(∇f(x*;S)) D という行列を用いてリスクの下界を確立する。これは逆フィッシャー情報行列に類似しており、確率的最適化への一般化である。
• 導出された下界に到達するNesterovのデュアルエーディティブ法の変種を提案し、傾き安定性を持つ問題において漸近的最適性を保証する。
• この手法により有限時間内に制約を特定できることを示し、これは標準的な確率的勾配法が達成できない性質である。
• 非線形制約がある場合には、漸近的最適性を達成するためにはリーマン幾何的勾配法が必要であることを提示する。

実験結果

リサーチクエスチョン

• RQ1 最悪関数クラスに依存しない、問題固有の確率的最適化アルゴリズムの収束レートの下界をどのように定義できるか？
• RQ2 確率的最適化における統計的難易度と、傾き安定性のような幾何的安定性概念との正確な関係は何か？
• RQ3 なぜ標準的な確率的勾配法は非線形制約がある問題において最適収束を達成できないのか？
• RQ4 局所幾何的性質を活用することで、最適収束レートを達成する適応的でオンラインなアルゴリズムを設計できるか？
• RQ5 Nesterovのデュアルエーディティブ法がどのような条件下で漸近的最適性を達成し、またどのような状況でリーマン的手法が必要となるのか？

主な発見

• 本稿では、任意のアルゴリズムの期待損失に対する局所ミニマックス下界を確立した。この下界は、逆フィッシャー情報行列を確率的最適化に一般化した行列Γに依存しており、これは確率的最適化における一般化された逆フィッシャー情報行列に相当する。
• この下界はタイトである：Nesterovのデュアルエーディティブ法は、滑らかな傾き安定性を持つ条件下でこの下界に到達し、線形および特定の非線形制約を持つ問題において漸近的最適性を証明した。
• 標準的な確率的勾配法は有限時間内に制約を特定できないが、提案されたデュアルエーディティブ法の変種は、有限時間内に制約を特定することを保証する。
• 非線形制約がある問題では、標準的な確率的勾配法は明らかに劣化しており、漸近的最適性を達成するためにはリーマン幾何的勾配法の使用が不可避である。
• 下界に現れる行列Dは、目的関数、分布P、制約構造を用いて明示的に特徴づけられ、統計的難易度と幾何的安定性の間の関係を明確にした。
• 提案されたアルゴリズムの収束レートは、導出された下界と一致しており、最適性を示す。また、適切なスケーリングのもとで推定誤差の漸近正規性が示された。