[論文レビュー] Stochastic Zeroth-order Optimization in High Dimensions

Yining Wang, Simon S. Du+2 more|arXiv (Cornell University)|Oct 29, 2017

Sparse and Compressive Sensing Techniques参考文献 35被引用数 28

ひとこと要約

本稿では、ノイズのある関数クエリを用いて、高次元の凸関数に対する2つの確率的ゼロ階微分最適化アルゴリズムを提案する。勾配や関数構造におけるスパarsityを活用することで、両手法とも環境次元dに対して対数的にしか依存しない収束速度を達成し、古典的手法がdの多項式的依存を示すのと比べて顕著に改善される。

ABSTRACT

We consider the problem of optimizing a high-dimensional convex function using stochastic zeroth-order queries. Under sparsity assumptions on the gradients or function values, we present two algorithms: a successive component/feature selection algorithm and a noisy mirror descent algorithm using Lasso gradient estimates, and show that both algorithms have convergence rates that de- pend only logarithmically on the ambient dimension of the problem. Empirical results confirm our theoretical findings and show that the algorithms we design outperform classical zeroth-order optimization methods in the high-dimensional setting.

研究の動機と目的

• 勾配が利用不可で関数評価がノイズを含む高次元の確率的ゼロ階微分最適化の課題に対処すること。
• 高次元設定において古典的手法が直面する次元dに多項式的依存する問題を克服すること。
• スパarsity仮定の下で、次元dに依存しない収束速度（対数的要因を除く）を達成するアルゴリズムの開発。
• 理論的収束バウンドの提供と、合成的な高次元関数に対するシミュレーションによる性能検証。
• 弱スパarsity仮定の下で次元に近い独立収束を達成する可能性の探求、およびヘッセ行列の滑らかさを考慮したより良い収束速度の達成。

提案手法

• ノイズのある関数クエリを用いて重要な変数の集合Sを特定する逐次的成分/特徴選択アルゴリズムを提案し、その後S上で低次元ゼロ階微分最適化を適用する。
• バイアス補正付きLassoを用いてゼロ階クエリから勾配を推定するノイズ付きミラー降下法を導入し、高次元最適化を効率的に行う。
• バイアス補正付きLassoを用いた勾配推定を採用し、スパースな高次元設定における推定バイアスを低減し、収束速度を向上させる。
• スパarsity構造に適応した正則化子を用いたミラー降下を採用し、スパarsity下で次元に依存しない収束を可能にする。
• ヘッセ行列の滑らかさ仮定を適用することで、ミラー降下フレームワークにおける収束速度をO(T^{-1/4})からO(T^{-1/3})に改善する。
• i.i.d.ノイズを伴う確率的オракルクエリを用いて、ハイパーパramータチューニングやシミュレーションベース最適化における実世界のブラックボックス関数評価をモデル化する。

実験結果

リサーチクエスチョン

• RQ1 スパarsity仮定の下で、ゼロ階微分最適化が環境次元dに対して対数的依存にとどまる収束速度を達成できるか？
• RQ2 バイアス補正付きLasso勾配推定を用いたミラー降下フレームワークは、特徴選択ベースのアプローチを上回る性能を示せるか？
• RQ3 弱スパarsityまたは強スパarsity仮定の下で、高次元ゼロ階微分最適化において達成可能な最適な収束速度は何か？
• RQ4 ヘッセ行列の滑らかさ仮定は、2階オラクルアクセスを必要とせずに収束速度を向上させられるか？
• RQ5 スパarsity下で、O(poly(log d) T^{-1/2})の収束速度を達成できるか？低次元での最適速度に一致するか？

主な発見

• 逐次的成分選択アルゴリズムは、スパarsity仮定の下でO(T^{-1/4})の収束速度を達成し、dに対して対数的依存を示す。
• バイアス補正付きLasso勾配推定を用いたミラー降下アルゴリズムは、追加のヘッセ行列滑らかさ仮定の下でより速いO(T^{-1/3})の収束速度を達成する。
• 実験結果から、提案された両アルゴリズムが、ローカル平均化法などの古典的手法よりも高次元設定で優れた性能を示すことがわかった。
• シミュレーションにおいて、ミラー降下アルゴリズムは特徴選択法を常に上回り、ハイパーパramータが少ないため調整が容易である。
• 理論的分析により、収束速度が環境次元dにのみ対数的依存することを確認した。これは、古典的手法がdに多項式的依存するのと対照的である。
• 強いスパarsity仮定の下で、ゼロ階微分最適化がlog(d)要因を除いて次元に依存しない収束を達成できることを確立した。