[論文レビュー] Optimization of Smooth Functions with Noisy Observations: Local Minimax Rates

Yining Wang, Sivaraman Balakrishnan+1 more|arXiv (Cornell University)|Mar 22, 2018

Advanced Optimization Algorithms Research被引用数 7

ひとこと要約

本稿は、ノイズのある観測下における滑らかで凸でない関数のゼロ次最適化を分析するための局所ミニマックスフレームワークを導入し、適応的アルゴリズムがグローバルミニマックス境界が示唆するよりも著しく高速な収束速度を達成できることを示している。特に、グローバル最小値の近傍でレベル集合が急速に拡大する場合に顕著である。主な貢献は、局所関数幾何に基づく最適化の本質的難易度を精緻に特徴づける理論的枠組みの構築であり、非適応的アルゴリズムがグローバルにミニマックス最適であっても、最適な局所レートを達成できないことを示している。

ABSTRACT

We consider the problem of global optimization of an unknown non-convex smooth function with zeroth-order feedback. In this setup, an algorithm is allowed to adaptively query the underlying function at different locations and receives noisy evaluations of function values at the queried points (i.e. the algorithm has access to zeroth-order information). Optimization performance is evaluated by the expected difference of function values at the estimated optimum and the true optimum. In contrast to the classical optimization setup, first-order information like gradients are not directly accessible to the optimization algorithm. We show that the classical minimax framework of analysis, which roughly characterizes the worst-case query complexity of an optimization algorithm in this setting, leads to excessively pessimistic results. We propose a local minimax framework to study the fundamental difficulty of optimizing smooth functions with adaptive function evaluations, which provides a refined picture of the intrinsic difficulty of zeroth-order optimization. We show that for functions with fast level set growth around the global minimum, carefully designed optimization algorithms can identify a near global minimizer with many fewer queries. For the special case of strongly convex and smooth functions, our implied convergence rates match the ones developed for zeroth-order convex optimization problems. At the other end of the spectrum, for worst-case smooth functions no algorithm can converge faster than the minimax rate of estimating the entire unknown function in the $\\ell_\\infty$-norm. We provide an intuitive and efficient algorithm that attains the derived upper error bounds.

研究の動機と目的

• ゼロ次最適化における古典的グローバルミニマックス解析の限界を是正すること。特に、ノイズのある評価下での滑らかな関数最適化の難易度を過大評価している点に焦点を当てる。
• 関数の局所的幾何的性質、特にグローバル最小値近傍でのレベル集合の成長に着目した、最適化の本質的難易度を捉える局所ミニマックスフレームワークの構築。
• ノイズ下でのゼロ次最適化において、適応的クエリ戦略が非適応的戦略を上回る理論的優位性を明確化すること。
• 最適化誤差のタイトな上界および下界を、特に部分集合の体積成長に依存する関数の局所的構造に基づき確立すること。
• 強い凸性と滑らかさを満たす関数に対して、導出された収束レートがゼロ次凸最適化における既知の最適レートと一致することを示すこと。

提案手法

• グローバル最小化点の近傍に注目し、最適化誤差を基準関数 $ f_0 $ に対して評価する局所ミニマックスフレームワークを導入する。
• 部分集合の体積成長 $ \mu_f(\epsilon) = \mathrm{Vol}(L_f(\epsilon)) $ に基づく局所ミニマックスレートを特徴づけ、$ \mu_f(\epsilon) \asymp \epsilon^\beta $（$ \beta > 0 $）を満たすものとする。
• 一様サンプリングとガウスノイズに基づく非パラメトリック回帰推定子 $ \widecheck{f} $ を用いて関数を近似し、集中不等式を用いて誤差バウンドを導出する。
• チェルノフ不等式とユニオンバウンドを適用し、局所的近傍における十分なサンプリング密度を確保することで、推定誤差の高確率的制御を可能にする。
• 部分集合の被覆／パッキング数と収束レートの関係を用いて、関数の局所的幾何とミニマックスレートの関連を確立する。
• 非適応的アルゴリズムが、グローバルにミニマックス最適であっても、最適な局所ミニマックスレートに到達できないことを示し、適応性の根本的欠落を特定する。

実験結果

リサーチクエスチョン

• RQ1 古典的グローバルミニマックスフレームワークは、ノイズ下でのゼロ次最適化の真の難易度をより良く捉えるために、どのように洗練できるか？
• RQ2 関数の幾何的条件（例えばレベル集合の成長）が何を満たす場合に、適応的アルゴリズムがグローバルミニマックス境界を上回る収束速度を達成できるか？
• RQ3 理論的悲観主義が示唆するにもかかわらず、実際の実装ではアクティブで適応的なクエリが被動的サンプリングを上回る理由は何か？
• RQ4 グローバル最小値近傍で部分集合の体積が急速に増加する関数の場合、最適化誤差の根本的限界は何か？
• RQ5 適応的および非適応的アルゴリズムは、局所ミニマックス最適性においてどのように比較できるか？

主な発見

• ゼロ次最適化の局所ミニマックスレートは、部分集合の体積成長に依存する。体積成長が速い（$ \beta $ が大きい）ほど収束が速くなり、レートは $ \widetilde{O}(n^{-\alpha/(2\alpha + \beta)}) $ となる。
• 強い凸性と滑らかさを満たす関数に対して、導出された収束レートはゼロ次凸最適化における既知の最適レートと一致し、フレームワークのタイトネスを裏付けている。
• 最悪ケース（レベル集合の成長が遅い）では、$ \ell_\infty $-ノルム関数推定のミニマックスレート $ \widetilde{O}(n^{-\alpha/(2\alpha + d)}) $ よりも速く収束することは不可能である。
• 導出された上界誤差バウンドを達成する効率的な適応的アルゴリズムを提案し、理論的考察の実用的妥当性を示している。
• 非適応的アルゴリズムはグローバルにミニマックス最適であるが、最適な局所ミニマックスレートに到達できないため、局所最適化における被動的サンプリングの根本的限界が明らかになった。
• 本稿は、適応的および非適応的戦略の明確な二分性を確立した。滑らかで凸でない設定において、最適な局所収束を達成するには適応性が不可欠である。