[論文レビュー] An Accelerated Method for Derivative-Free Smooth Stochastic Convex Optimization

Eduard Gorbunov, Pavel Dvurechensky+1 more|arXiv (Cornell University)|Feb 25, 2018

Stochastic Gradient Optimization Techniques被引用数 5

ひとこと要約

本稿では、2点フィードバックと不正確な関数評価を伴う滑らかな確率的凸最適化に対して、勾配情報を利用しない高速化アルゴリズムを提案する。ノイズには確率的成分と有界な敵対的成分が含まれる。この手法は、加速勾配法に近い複雑度の上限を達成し、驚くべきことに、ℓ¹ノルムのプロキシマル設定を用いることで、標準の ℓ²ノルム設定よりも収束速度が向上する。特に解がスパースな場合に顕著である。

ABSTRACT

We consider an unconstrained problem of minimizing a smooth convex function which is only available through noisy observations of its values, the noise consisting of two parts. Similar to stochastic optimization problems, the first part is of stochastic nature. The second part is additive noise of unknown nature, but bounded in absolute value. In the two-point feedback setting, i.e. when pairs of function values are available, we propose an accelerated derivative-free algorithm together with its complexity analysis. The complexity bound of our derivative-free algorithm is only by a factor of $\sqrt{n}$ larger than the bound for accelerated gradient-based algorithms, where $n$ is the dimension of the decision variable. We also propose a non-accelerated derivative-free algorithm with a complexity bound similar to the stochastic-gradient-based algorithm, that is, our bound does not have any dimension-dependent factor except logarithmic. Notably, if the difference between the starting point and the solution is a sparse vector, for both our algorithms, we obtain a better complexity bound if the algorithm uses an $1$-norm proximal setup, rather than the Euclidean proximal setup, which is a standard choice for unconstrained problems

研究の動機と目的

• 確率的および敵対的ノイズ成分を含む、勾配情報なしの確率的凸最適化の課題に取り組む。
• 2点フィードバックモデルに適した効率的なアルゴリズムを開発する。このモデルでは、関数値のペアのみが利用可能である。
• 勾配情報が利用できないにもかかわらず、加速勾配法に近い複雑度の上限を達成する。
• プロキシマル設定の選択（ℓ¹ 対 ℓ²）が収束速度に与える影響、特にスパースな状況下での影響を調査する。
• さまざまなノイズレベルや高次元問題において、提案手法のロバスト性を示す。

提案手法

• 2点フィードバックオракル（同時に2点におけるノイズ付き関数値を返す）を用いた、新たな高速化勾配なしアルゴリズムを提案する。
• 初期点と解との差がスパースである場合に、複雑度の上限が改善される ℓ¹ノルムに基づくプロキシマル設定を導入する。
• 目的関数が滑らか（L₂滑らか）であり、確率的勾配の分散が有界であるという仮定の下でアルゴリズムを分析する。
• |η(x,ξ)| ≤ Δ を満たす有界な敵対的ノイズ成分 η(x,ξ) を組み込み、測定誤差や丸め誤差をモデル化する。
• 最良の既知の勾配ベース加速法に比べて √n 要因以内の複雑度上限を確立する。
• 次元依存要因が対数的項を除き存在しない標準の確率的勾配法と一致する複雑度を持つ非加速バージョンを提供する。

実験結果

リサーチクエスチョン

• RQ1 確率的および有界な敵対的ノイズが存在する中で、加速勾配なしアルゴリズムが加速勾配法に近い複雑度を達成できるか？
• RQ2 解がスパースな場合に、プロキシマル設定の選択（ℓ¹ 対 ℓ²）が勾配なし最適化における収束速度に与える影響は？
• RQ3 有界だが未知の敵対的ノイズが、勾配なし確率的最適化アルゴリズムの性能に与える影響は？
• RQ4 理論的上限よりも著しく大きなノイズレベル Δ であっても、提案手法が良好な収束特性を維持できるか？
• RQ5 問題の次元数 n が増加するに従い、提案アルゴリズムはどのようにスケーリングするか？特に高次元設定において。

主な発見

• 勾配情報を利用しないにもかかわらず、加速勾配法に近い複雑度の上限を達成する。その上限は、最良の既知の加速勾配法に比べて √n 要因しか悪化しない。
• 非加速勾配なしアルゴリズムは、次元依存要因が対数的項を除き存在しないという点で、標準の確率的勾配法と一致する複雑度の上限を持つ。
• 驚くべきことに、初期点と解との差がスパースな場合、ℓ¹ノルムのプロキシマル設定が標準の ℓ²ノルム設定よりも優れた複雑度の上限を達成する。
• 数値実験により、理論的上限よりもはるかに大きな敵対的ノイズ Δ であっても、ε = 10⁻³ の ε-解に成功して到達することが確認された。
• 100 から 5000 のさまざまな次元数 n および LIBSVM ライブラリのロジスティック回帰問題を含むさまざまなデータセットにおいて、安定した性能を示した。
• ロジスティック回帰に関する実験では、すべてのテストデータセットで ℓ¹プロキシマル設定が、常に最良またはほぼ最良の性能を達成した。