[論文レビュー] Solving Weakly-Convex-Weakly-Concave Saddle-Point Problems as Weakly-Monotone Variational Inequality

Qihang Lin, Mingrui Liu+2 more|arXiv (Cornell University)|Oct 24, 2018

Sparse and Compressive Sensing Techniques被引用数 28

ひとこと要約

本稿では、生成対抗ネットワーク（GAN）の訓練において一般的に見られる弱凸-弱凹型ミニマックス問題を解くための新しいアルゴリズム的フレームワークを提案する。このフレームワークは、元の問題を弱単調な変分不等式（VI）に再定式化することで、反復的に強い単調性を持つ部分問題を不正確なプロキシマルポイント法によって解く。この手法により、証明可能な収束速度を伴い、ほぼ定常解への一次収束が達成される。

ABSTRACT

In this paper, we consider first-order convergence theory and algorithms for solving a class of non-convex non-concave min-max saddle-point problems, whose objective function is weakly convex in the variables of minimization and weakly concave in the variables of maximization. It has many important applications in machine learning including training Generative Adversarial Nets (GANs). We propose an algorithmic framework motivated by the inexact proximal point method, where the weakly monotone variational inequality (VI) corresponding to the original min-max problem is solved through approximately solving a sequence of strongly monotone VIs constructed by adding a strongly monotone mapping to the original gradient mapping. We prove first-order convergence to a nearly stationary solution of the original min-max problem of the generic algorithmic framework and establish different rates by employing different algorithms for solving each strongly monotone VI. Experiments verify the convergence theory and also demonstrate the effectiveness of the proposed methods on training GANs.

研究の動機と目的

• 機械学習、特にGANの訓練において生じる非凸-非凹型ミニマックス問題を解く課題に対処すること。
• 弱凸-弱凹型サドルポイント問題を対象とするアルゴリズムの一次収束理論を構築すること。
• 変分不等式フレームワークのもとで、ほぼ定常解への収束保証を確立すること。
• 部分問題のソルバをさまざまな方法で組み込める汎用的なアルゴリズムフレームワークを設計すること、同時に収束性を維持すること。

提案手法

• 目的関数の勾配マッピングを用いて、元のミニマックス問題を弱単調な変分不等式（VI）に再定式化する。
• 元の勾配マッピングに強い単調性を持つマッピングを加えることで、強い単調性を持つVIの列を構築する。
• 不正確なプロキシマルポイント法を用いて、その強い単調性を持つVIの列を近似的に解く。
• 各強い単調性を持つVI部分問題に対して、異なる一次ソルバを適用し、多様な収束速度を達成する。
• 反復的精錬を通じて、元の問題のほぼ定常解へのグローバル収束を保証する。
• 元のVIの弱単調性を活用し、適切な仮定のもとで収束速度を導出する。

実験結果

リサーチクエスチョン

• RQ1 弱凸-弱凹構造を持つミニマックス問題に対して、一次収束保証を確立できるか？
• RQ2 変分不等式理論を用いて、非凸-非凹な目的関数をミニマックス最適化で効果的に扱えるか？
• RQ3 不正確なプロキシマルポイントフレームワークにおける部分問題に異なるソルバを適用した場合、得られる収束速度は何か？
• RQ4 非凸性と非凹性が存在するにもかかわらず、提案フレームワークはGANの訓練において実用的に有効であるか？

主な発見

• 提案されたアルゴリズムフレームワークは、元の弱凸-弱凹型ミニマックス問題のほぼ定常解への一次収束を達成する。
• 強い単調性を持つ部分問題のソルバの選択に応じて、異なる収束速度が確立される。
• このフレームワークは、GANの訓練に由来するような非凸-非凹型問題の広いクラスに適用可能である。
• 実験的結果は理論的収束挙動を確認し、GANの訓練における実用的有効性を示している。
• 弱凸-弱凹問題を解くための統一的アプローチを提供する。元の問題を良好に条件付けられた部分問題の列に変換する。
• 不正確なプロキシマルポイント法により、部分問題が近似的に解かれても、ロバストで収束する。