[論文レビュー] Near-Optimal Algorithms for Minimax Optimization

Tianyi Lin, Chi Jin+1 more|arXiv (Cornell University)|Feb 5, 2020

Sparse and Compressive Sensing Techniques参考文献 69被引用数 45

ひとこと要約

本論文は、滑らかで強凸-強凹ミニマックス問題に対するほぼ最適の一階法を導入し、下界勾配複雑さを log 因子まで達成します。加えて、加速を非凹など他の設定にも拡張します。

ABSTRACT

This paper resolves a longstanding open question pertaining to the design of near-optimal first-order algorithms for smooth and strongly-convex-strongly-concave minimax problems. Current state-of-the-art first-order algorithms find an approximate Nash equilibrium using $\tilde{O}(κ_{\mathbf x}+κ_{\mathbf y})$ or $\tilde{O}(\min\{κ_{\mathbf x}\sqrt{κ_{\mathbf y}}, \sqrt{κ_{\mathbf x}}κ_{\mathbf y}\})$ gradient evaluations, where $κ_{\mathbf x}$ and $κ_{\mathbf y}$ are the condition numbers for the strong-convexity and strong-concavity assumptions. A gap still remains between these results and the best existing lower bound $\tildeΩ(\sqrt{κ_{\mathbf x}κ_{\mathbf y}})$. This paper presents the first algorithm with $\tilde{O}(\sqrt{κ_{\mathbf x}κ_{\mathbf y}})$ gradient complexity, matching the lower bound up to logarithmic factors. Our algorithm is designed based on an accelerated proximal point method and an accelerated solver for minimax proximal steps. It can be easily extended to the settings of strongly-convex-concave, convex-concave, nonconvex-strongly-concave, and nonconvex-concave functions. This paper also presents algorithms that match or outperform all existing methods in these settings in terms of gradient complexity, up to logarithmic factors.

研究の動機と目的

• ミニマックス最適化における既知の上界と下界勾配複雑さのギャップを動機づけ、解決する。
• 強凸-強凹および強凸-凹のミニマックス問題に対して、ほぼ最適な一階法を設計する。
• 加速フレームワークを convex-concave、nonconvex-strongly-concave、および nonconvex-concave の設定へ拡張する。
• ミニマックス近接ステップの加速ソルバーと、実用的で証明可能に効率的な実装を提供する。
• 既存の結果と比較分析を提供し、勾配複雑さの改善を強調する。

提案手法

• 不正確な近接問題解決を伴う加速近接点フレームワーク (APPA) を開発する。
• min_x max_y f(x,y) + ell||x - x̃||^2 の形の部分問題を解くため、ミニマックス近接ステップの加速ソルバーを用いる。
• Maximin-AG2 を導入する。これは AGD/AGA のサブルーチンを用いて、x の加速最小化と y の加速最大化を交互に行うアルゴリズムである。
• Nesterov の加速勾配技法と加速ソルバーを用い、strongly-convex-strongly-concave 設定で tilde-O(√(κ_x κ_y)) 勾配複雑さを達成する。
• アルゴリズム成分（AGD、Inexact-APPA、加速ミニマックスソルバー）と形式的収束保証を提供する。
• フレームワークを convex-concave、nonconvex-strongly-concave、および nonconvex-concave 設定へ拡張し、ほぼ最適なレートを達成する。

実験結果

リサーチクエスチョン

• RQ1 一階法は strongly-convex-strongly-concave ミニマックス問題に対して下界 tilde-O(√(κ_x κ_y)) 勾配複雑さを達成できるか。
• RQ2 strongly-convex-concave ミニマックス問題とその拡張に対して、どのようなアルゴリズム構造がほぼ最適なレートを生み出すか。
• RQ3 加速を近接点とミニマックスステップに組み込み、広範なミニマックス問題（convex-concave および nonconvex-concave）に対応させるにはどうすればよいか。
• RQ4 加速近接ステップソルバーは、勾配複雑さを好ましく保ちながら非凸設定へ一般化できるか。
• RQ5 提案手法は、settings（convex-concave、strongly convex-concave、nonconvex-concave）全体で既存の上界と下界とどう比較されるか。

主な発見

• strongly-convex-strongly-concave ミニマックスに対して tilde-O(√(κ_x κ_y)) 勾配複雑さを達成し、既知の下界と対数因子まで一致する。
• strongly-convex-concave ミニマックスに対して tilde-O(√(κ_x/ε)) 勾配複雑さを得て、下界と対数因子まで一致する。
• convex-concave 設定で tilde-O(ε^{-1}) 勾配複雑さを達成し、下界と既存の上界と対数因子まで一致する。
• より緩やかな滑らかさ仮定の下でも機能するミニマックス近接ステップの加速ソルバーを開発（APPA 経由）。
• 非凸-強凸凹および非凸-凸のミニマックス問題に対する加速アルゴリズムを提供し、定常性ベースのレートを改善（例：ε^{-2.5} から ε^{-3} の範囲）
• 複数のミニマックスレジームを証明可能な保証とともにカバーする統一フレームワーク（APPA + Maximin-AG2）を提供する。