[論文レビュー] Fast Objective and Duality Gap Convergence for Non-convex Strongly-concave Min-max Problems.

Zhishuai Guo, Zhuoning Yuan+2 more|arXiv (Cornell University)|Jun 12, 2020

Sparse and Compressive Sensing Techniques参考文献 45被引用数 9

ひとこと要約

本稿では、非凸強擬凹なミニマックス問題に対する、プロキシマルエポックベースの確率的アルゴリズムを提案する。このアルゴリズムは、新しいリャプノフ関数とより弱いポリャク＝ロジャーヴィッチ（PL）条件を活用することで、プライマル目的関数ギャップと双対ギャップの両方において高速収束を達成する。最適な O(1/ε) イテレーション複雑度を確立し、CheXpertベンチマークで 0.922 の AUC を達成した。

ABSTRACT

This paper focuses on stochastic methods for solving smooth non-convex strongly-concave min-max problems, which have received increasing attention due to their potential applications in deep learning (e.g., deep AUC maximization). However, most of the existing algorithms are slow in practice, and their analysis revolves around the convergence to a nearly stationary point. We consider leveraging the Polyak-Łojasiewicz (PL) condition to design faster stochastic algorithms with stronger convergence guarantee. Although PL condition has been utilized for designing many stochastic minimization algorithms, their applications for non-convex min-max optimization remains rare. In this paper, we propose and analyze proximal epoch-based methods, and establish fast convergence in terms of both {\bf the primal objective gap and the duality gap}. Our analysis is interesting in threefold: (i) it is based on a novel Lyapunov function that consists of the primal objective gap and the duality gap of a regularized function; (ii) it only requires a weaker PL condition for establishing the primal objective convergence than that required for the duality gap convergence; (iii) it yields the optimal dependence on the accuracy level $\epsilon$, i.e., $O(1/\epsilon)$. We also make explicit the dependence on the problem parameters and explore regions of weak convexity parameter that lead to improved dependence on condition numbers. Experiments on deep AUC maximization demonstrate the effectiveness of our methods. Our method (MaxAUC) achieved an AUC of 0.922 on private testing set on {\bf CheXpert competition}.

研究の動機と目的

• 深層学習の応用における、非凸強擬凹ミニマックス問題に対する従来の確率的アルゴリズムの収束遅さを解決すること。
• 停留在性を超える収束保証を実現し、プライマル目的関数ギャップと双対ギャップの両方を対象とすること。
• 双対ギャップ収束に要する以前の要件よりも弱い PL 条件を用いて、より速い収束レートを確立すること。
• やや弱い仮定の下で、精度 ε に対して最適な O(1/ε) のイテレーション複雑度依存性を達成すること。
• 弱凸性領域におけるパラメータ依存性と条件数の改善を調査すること。

提案手法

• 非凸強擬凹ミニマックス問題に特化したプロキシマルエポックベースの確率的アルゴリズムを提案する。
• 正則化関数のプライマル目的関数ギャップと双対ギャップを組み合わせた、新しいリャプノフ関数を導入する。
• 双対ギャップ収束に必要なより強い条件とは異なり、プライマル目的関数収束を保証するより弱い PL 条件を採用する。
• このリャプノフ関数を用いて収束レートを導出し、精度 ε に対して最適な O(1/ε) の依存性を示す。
• 問題パラメータへの明示的依存性を分析し、条件数依存性が改善される弱凸性パrameter の特定領域を同定する。
• 深層 AUC 最大化にこの手法を適用し、実用的導入を可能にする MaxAUC アルゴリズムを導出する。

実験結果

リサーチクエスチョン

• RQ1 非凸強擬凹ミニマックス問題において、プライマル目的関数ギャップと双対ギャップの両方でより速い収束を達成できるか？
• RQ2 双対ギャップ収束に比べ、プライマル目的関数収束のためにはより弱い PL 条件で十分か？
• RQ3 やや弱い仮定の下で、このような問題に対して最適な O(1/ε) イテレーション複雑度を達成できるか？
• RQ4 弱凸性領域における問題パラメータと条件数が収束レートにどのように影響するか？
• RQ5 提案手法は、AUC 最大化のような実世界の深層学習タスクにおいて、従来手法を上回る性能を示せるか？

主な発見

• 提案アルゴリズムは、プライマル目的関数ギャップと双対ギャップの両方の収束に対して、最適な O(1/ε) イテレーション複雑度を達成する。
• 新しいリャプノフ関数により、正則化関数のプライマルと双対ギャップを組み合わせた、より鋭い解析が可能になった。
• 双対ギャップ収束に要する条件よりも弱い PL 条件のもとで、プライマル目的関数収束が保証される。
• 特定の弱凸性パrameter の領域において、条件数依存性が改善されている。
• CheXpert コンペティションにおいて、MaxAUC アルゴリズムはプライベートテストセットで AUC 0.922 を達成し、強力な実験的性能を示した。