[論文レビュー] Zeroth-order (Non)-Convex Stochastic Optimization via Conditional Gradient and Gradient Updates

Krishnakumar Balasubramanian, Saeed Ghadimi|arXiv (Cornell University)|Sep 17, 2018

Stochastic Gradient Optimization Techniques参考文献 28被引用数 3

ひとこと要約

本稿では、凸および非凸問題の両方に対して、関数評価のみを用いて勾配情報が得られない状況下でも、標準の確率的勾配法と同等の収束速度を達成するゼロ次確率的最適化アルゴリズムを提案する。条件付き勾配と勾配更新を組み合わせた手法であり、構造的スパarsityの下でステップサイズの調整により暗黙の正則化を実現し、次元数に多項対数的依存性を示す打ち切りアルゴリズムを提案する。

ABSTRACT

In this paper, we propose and analyze zeroth-order stochastic approximation algorithms for nonconvex and convex optimization. Specifically, we propose generalizations of the conditional gradient algorithm achieving rates similar to the standard stochastic gradient algorithm using only zeroth-order information. Furthermore, under a structural sparsity assumption, we first illustrate an implicit regularization phenomenon where the standard stochastic gradient algorithm with zeroth-order information adapts to the sparsity of the problem at hand by just varying the stepsize. Next, we propose a truncated stochastic gradient algorithm with zeroth-order information, whose rate depends only poly-logarithmically on the dimensionality.

研究の動機と目的

• 勾配が利用できない状況下でも、標準の確率的勾配法と同等の収束速度を達成するゼロ次確率的最適化アルゴリズムの開発。
• 構造的スパarsity仮定の下で、ゼロ次確率的勾配法の暗黙の正則化効果の分析。
• 次元数に多項対数的依存性しか示さないゼロ次情報に基づく打ち切り確率的勾配アルゴリズムの設計。
• 非凸および凸最適化の両方の設定において、条件付き勾配法をゼロ次設定に一般化すること。

提案手法

• 関数評価のみを用いて、一次の最適化手法と同等の収束速度を維持する、ゼロ次設定への条件付き勾配アルゴリズムの一般化。
• ステップサイズの調整戦略を導入し、暗黙の正則化を誘発することで、明示的なスパarsity制約なしに問題のスパarsityに適応可能にする。
• 高次元成分の影響を制限する打ち切り確率的勾配アルゴリズムを提案し、次元依存性を多項対数的スケールに低減する。
• 有限差分による勾配推定を可能にするゼロ次オракルアクセスを用い、非凸および凸設定において勾配フリー最適化を実現する。
• 収束速度の向上とスパarsity促進の両立を図るため、条件付き勾配更新と勾配ベース更新を統合する。

実験結果

リサーチクエスチョン

• RQ1 関数評価のみを用いても、ゼロ次確率的最適化は一次の最適化手法と同等の収束速度を達成できるか？
• RQ2 構造的スパarsity仮定の下で、ゼロ次確率的勾配降下法は暗黙の正則化を示すか？
• RQ3 打ち切りゼロ次確率的勾配アルゴリズムは、次元依存性を線形ではなく多項対数的とすることができるか？
• RQ4 ステップサイズとスパarsityの相互作用が、ゼロ次の最適化における収束にどのように影響するか？

主な発見

• 提案されたゼロ次条件付き勾配アルゴリズムは、関数評価のみを用いても、標準の確率的勾配法と同等の収束速度を達成する。
• 構造的スパarsityの下で、ステップサイズの調整により、ゼロ次確率的勾配降下法は明示的な正則化なしにスパarsityに暗黙的に適応する。
• ゼロ次情報に基づく打ち切り確率的勾配アルゴリズムは、次元依存性を多項対数的スケールに抑えることができ、スケーラビリティが著しく向上する。
• 本手法は、アルゴリズム設計とステップサイズ制御から、ゼロ次の最適化における暗黙の正則化が自然に生じ得ることを示している。