[論文レビュー] Solving Weakly-Convex-Weakly-Concave Saddle-Point Problems as Successive Strongly Monotone Variational Inequalities

Qihang Lin, Mingrui Liu+2 more|arXiv (Cornell University)|Oct 24, 2018

Sparse and Compressive Sensing Techniques被引用数 10

ひとこと要約

本稿では、弱凸-弱凹なミニマックス問題を解くための新しいアルゴリズム的枠組みを提案する。この手法は、不正確なプロキシマル・ポイント法を用いて、逐次的に強い単調性を持つ変分不等式を解くことで、非漸近的収束を保証する。この収束は、標準的なサブルーチンを用いた場合に、非凸非凹な鞍点問題に対して、計算複雑性の保証がある初めての結果である。

ABSTRACT

In this paper, we consider first-order algorithms for solving a class of non-convex non-concave min-max saddle-point problems, whose objective function is weakly convex (resp. weakly concave) in terms of the variable of minimization (resp. maximization). It has many important applications in machine learning, statistics, and operations research. One such example that attracts tremendous attention recently in machine learning is training Generative Adversarial Networks. We propose an algorithmic framework motivated by the inexact proximal point method, which solves the weakly monotone variational inequality corresponding to the original min-max problem by approximately solving a sequence of strongly monotone variational inequalities constructed by adding a strongly monotone mapping to the original gradient mapping. In this sequence, each strongly monotone variational inequality is defined with a proximal center that is updated using the approximate solution of the previous variational inequality. Our algorithm generates a sequence of solution that provably converges to a nearly stationary solution of the original min-max problem. The proposed framework is flexible because various subroutines can be employed for solving the strongly monotone variational inequalities. The overall computational complexities of our methods are established when the employed subroutines are subgradient method, stochastic subgradient method, gradient descent method and Nesterov's accelerated method and variance reduction methods for a Lipschitz continuous operator. To the best of our knowledge, this is the first work that establishes the non-asymptotic convergence to a nearly stationary point of a non-convex non-concave min-max problem.

研究の動機と目的

• 機械学習、統計、オペレーションズ・リサーチ分野で生じる非凸非凹なミニマックス問題を解く課題に対処すること。
• 非漸近的複雑性の保証を伴う、弱凸-弱凹な鞍点問題に対して、証明可能に収束する一次元アルゴリズムを開発すること。
• 弱凸-弱凹な設定で生じる非単調または弱単調な変分不等式に、プロキシマル・ポイント法を一般化するため、強い単調性を持つ部分問題の系列を構築すること。
• さまざまな最適化サブルーチン（例：勾配降下法、ネステロフの手法など）を統合可能なフレームワークを柔軟に実装すること。

提案手法

• 元の弱単調な変分不等式にプロキシマル正則化項を追加することで、強い単調性を持つ変分不等式の系列に再定式化する。
• 各部分問題は、選択されたサブルーチンを用いて近似的に解き、プロキシマル中心は直前の近似解に基づいて更新する。
• プロキシマル中心を繰り返し更新することで、元の問題の定常点への降下と収束を保証する。
• 部分問題の解法における不正確性を扱いながらも、グローバルな収束保証を維持する。
• 決定論的および確率的一次元手法（勾配、確率的勾配、勾配降下法、ネステロフの加速法、分散低減技術など）と両立可能である。
• リプシッツ連続な作用素を扱えるように設計されており、標準的な滑らかさ仮定のもとで複雑性解析が可能である。

実験結果

リサーチクエスチョン

• RQ1 一次元手法を用いて、弱凸-弱凹なミニマックス問題に対して、非漸近的収束を、ほぼ定常解へ達成できるか？
• RQ2 非単調または弱単調な変分不等式に、非凸非凹な設定で生じるプロキシマル・ポイント法をどのように拡張できるか？
• RQ3 勾配降下法やネステロフの手法といった標準サブルーチンを用いた場合、このような問題の計算複雑性は何か？
• RQ4 部分問題の不正確な解を許容しても、収束保証を維持できるか？
• RQ5 プロキシマル中心の更新が、非凸ミニマックス問題における収束の安定化と加速に果たす役割は何か？

主な発見

• 提案された枠組みは、元の弱凸-弱凹なミニマックス問題のほぼ定常解へ、非漸近的収束を達成する。
• サブルーチンとしての標準的第一次元法（勾配、確率的勾配、勾配降下法、ネステロフの加速法、分散低減技術など）すべてに対して、計算複雑性の上限を確立する。
• 本手法は、非凸非凹なミニマックス問題に対して、非漸近的収束保証を提供する最初のフレームワークである。
• 適応的プロキシマル中心を用いた、近似的に解かれた強い単調性を持つ変分不等式の系列を通じて収束を達成する。
• アーキテクチャは柔軟かつモジュール型であり、任意の既存の一次元法をサブルーチンとして統合可能である。
• 理論的解析により、作用素のリプシッツ連続性のもとで収束が保証され、GANの学習など実世界の問題への広範な適用性が裏付けられる。