[論文レビュー] Complexity Lower Bounds for Nonconvex-Strongly-Concave Min-Max Optimization

Haochuan Li, Yi Tian+2 more|arXiv (Cornell University)|Apr 18, 2021

Stochastic Gradient Optimization Techniques参考文献 49被引用数 10

ひとこと要約

本稿は、非凸強凹最小最大化最適化における最初の段階のオракル複雑度の下界を厳密に確立し、決定的アルゴリズムが $Ω(\sqrt{\kappa}\epsilon^{-2})$ クエリを必要とし、確率的アルゴリズムが $Ω(\sqrt{\kappa}\epsilon^{-2} + \kappa^{1/3}\epsilon^{-4})$ クエリを必要とする、ε-停留点を求めるために必要なことを証明している。結果は、Lin ら（2020b）の上界が対数要因を除いて最適であることを示しており、条件数依存性に関して、確率的設定における上界と下界の間には依然として大きなギャップが存在する。

ABSTRACT

We provide a first-order oracle complexity lower bound for finding stationary points of min-max optimization problems where the objective function is smooth, nonconvex in the minimization variable, and strongly concave in the maximization variable. We establish a lower bound of $Ω\left(\sqrtκε^{-2} ight)$ for deterministic oracles, where $ε$ defines the level of approximate stationarity and $κ$ is the condition number. Our analysis shows that the upper bound achieved in (Lin et al., 2020b) is optimal in the $ε$ and $κ$ dependence up to logarithmic factors. For stochastic oracles, we provide a lower bound of $Ω\left(\sqrtκε^{-2} + κ^{1/3}ε^{-4} ight)$. It suggests that there is a significant gap between the upper bound $\mathcal{O}(κ^3 ε^{-4})$ in (Lin et al., 2020a) and our lower bound in the condition number dependence.

研究の動機と目的

• 非凸強凹最小最大化問題における近似停留点を求めるための、最初の証明可能なオラクル複雑度下界を確立すること。
• 文献に既存の上界が、精度パラメータ $\epsilon$ および条件数 $\kappa$ に依存する形で最適であるかどうかを特定すること。
• 特に $\kappa$-依存性に注目して、確率的オラクル設定における既知の上界と新しい下界のギャップを分析すること。
• 任意の1次元ゼロ尊重アルゴリズムが、ある最小数のクエリを経由せざるを得ないような明示的なハードインスタンスを構築すること。

提案手法

• 非凸性を $\bm{x}$ に、強凹性を $\bm{y}$ に持つ、適切に設計されたハードインスタンス $\bar{f}^{\text{nc-sc}}$ を構築し、有界なハイパーキューブ上に定義することで勾配の有界性を保証する。
• 最悪の場合の $\epsilon$-停留点を求めるために必要なクエリ数を分析するため、ゼロ尊重オラクルフレームワークを用いる。
• 確率的オラクルをモデル化するために確率 $p$ のゼロチェーン構成を適用し、分散が有界である一方でハードインスタンスの構造を保持する。
• 背理法を用いて下界を導出する：もしアルゴリズムが導出された下界を上回って動作するならば、ハードインスタンスの構造を破ることになる。
• 分散を有界に保つために必要なサンプリング確率 $p$ を分析することで、決定的下界を確率的設定に拡張する。
• Lin ら（2020b）の上界と対数要因を除いて一致するため、決定的下界 $\Omega(\sqrt{\kappa}\epsilon^{-2})$ がタイトであることを証明する。

実験結果

リサーチクエスチョン

• RQ1 Lin ら（2020b）における $\tilde{\mathcal{O}}(\sqrt{\kappa}\epsilon^{-2})$ の上界は、非凸強凹最小最大化問題における決定的1次元アルゴリズムにとって最適であるか？
• RQ2 このクラスの問題における確率的オラクル複雑度のタイトな下界は何か？
• RQ3 Lin ら（2020a）における確率的設定の $\mathcal{O}(\kappa^3\epsilon^{-4})$ 上界の $\kappa$-依存性は最適か？
• RQ4 ゼロ尊重アルゴリズムに限らず、任意の（おそらく確率的）アルゴリズムに対しても下界を拡張できるか？
• RQ5 より一般的な非凸凹または非凸非凹設定におけるタイトな複雑度バウンドは何か？

主な発見

• 決定的オラクル複雑度下界は $\Omega(\sqrt{\kappa}\epsilon^{-2})$ であり、Lin ら（2020b）の上界と対数要因を除いて一致する。
• 確率的設定では下界が $\Omega(\sqrt{\kappa}\epsilon^{-2} + \kappa^{1/3}\epsilon^{-4})$ であり、決定的ケースよりも厳密に大きい。
• Lin ら（2020a）における上界 $\mathcal{O}(\kappa^3\epsilon^{-4})$ と下界 $\Omega(\kappa^{1/3}\epsilon^{-4})$ のギャップは、上界の条件数依存性が部分的に非最適である可能性を示唆している。
• ハードインスタンスの構築により、定義域全体で勾配ノルムが一様に有界になることが保証され、非凸性と強凹性がある中でも正当な複雑度解析が可能になる。
• 確率的下界は、分散を有界に保つために必要なサンプリング確率 $p$ を分析することで導出され、$\Omega(\kappa^{1/3}\epsilon^{-4})$ 項が得られる。
• 結果は、Lin ら（2020b）の既存のアルゴリズムが決定的設定ではほぼ最適であるが、Lin ら（2020a）の確率的アルゴリズムは $\kappa$-依存性において改善の余地があることを示唆している。