[論文レビュー] Gradient Descent Ascent for Min-Max Problems on Riemannian Manifolds

Feihu Huang, Shangqian Gao+1 more|arXiv (Cornell University)|May 4, 2021

Stochastic Gradient Optimization Techniques参考文献 51被引用数 4

ひとこと要約

本稿では、リーマン多様体上での非凸ミニマックス問題を解くために、リーマン勾配降下上昇法（RGDA）およびその確率的変種を提案し、より優れたサンプル複雑度を達成する。決定的ケースではO(κ²ϵ⁻²)、確率的ケースではO(κ⁴ϵ⁻⁴)、モーメンタムに基づく分散低減手法を用いたバージョンではO~(κ⁴ϵ⁻³)を達成し、大規模バッチを必要とせずに、ユークリッド空間の最良性能に近い結果を得た。

ABSTRACT

In the paper, we study a class of useful non-convex minimax optimization problems on Riemanian manifolds and propose a class of Riemanian gradient descent ascent algorithms to solve these minimax problems. Specifically, we propose a new Riemannian gradient descent ascent (RGDA) algorithm for the deterministic minimax optimization. Moreover, we prove that the RGDA has a sample complexity of O(κ2ϵ−2) for finding an ϵ-stationary point of the nonconvex strongly-concave minimax problems, where κ denotes the condition number. At the same time, we introduce a Riemannian stochastic gradient descent ascent (RSGDA) algorithm for the stochastic minimax optimization. In the theoretical analysis, we prove that the RSGDA can achieve a sample complexity of O(κ4ϵ−4). To further reduce the sample complexity, we propose a novel momentum variance-reduced Riemannian stochastic gradient descent ascent (MVR-RSGDA) algorithm based on a new momentum variance-reduced technique of STORM. We prove that the MVR-RSGDA algorithm achieves a lower sample complexity of O~(κ4ϵ−3) without large batches, which reaches near the best known sample complexity for its Euclidean counterparts. Extensive experimental results on the robust deep neural networks training over Stiefel manifold demonstrate the efficiency of our proposed algorithms.

研究の動機と目的

• ロバスト機械学習に一般的に見られるが、リーマン的文脈では未だ十分に検討されていない、リーマン多様体上での非凸ミニマックス最適化問題に対処すること。
• 曲がった非ユークリッド空間で動作しながらも収束保証を維持する効率的なリーマン最適化アルゴリズムの開発。
• 多様体上での確率的ミニマックス問題に対して、ユークリッド空間における最良の既知の性能に近い近似的最適なサンプル複雑度を達成すること。
• 独自のモーメンタムに基づく分散低減技術（STORM）をリーマン幾何に適応し、確率的更新における分散を低減すること。
• 提案されたアルゴリズムが、Stiefel多様体上でのロバストディープニューラルネットワーク訓練において実験的に有効であることを検証すること。

提案手法

• 両方のプレイヤー（ミニマックスのminとmax）にリーマン勾配を用いる、リーマン多様体上での決定的ミニマックス問題を対象としたリーマン勾配降下上昇法（RGDA）を提案。
• 確率的目的関数を扱うために、リーマン確率的勾配降下上昇法（RSGDA）を導入。確率的勾配は接空間に射影される。
• 新たなSTORMに基づくモーメンタム技術を用いて、勾配の分散を低減するモーメンタム分散低減リーマン確率的勾配降下上昇法（MVR-RSGDA）を設計。
• 最適化中に反復点を多様体上に保つために、リーマン再構成（retractions）とベクトル輸送（vector transport）を用い、幾何的整合性を確保。
• リーマン曲率と条件数κを用いて収束を分析。サンプル複雑度を多様体構造と関連づける。
• リーマン最適化のツールを用いて、非凸強く凹型の仮定の下で理論的サンプル複雑度の上限を導出。

実験結果

リサーチクエスチョン

• RQ1 曲がった多様体上での非凸ミニマックス問題に対して、リーマン勾配降下上昇法は収束保証を達成できるか？
• RQ2 リーマン的確率的ミニマックス最適化の理論的サンプル複雑度は何か？また、ユークリッド空間の対応する手法と比べてどうか？
• RQ3 STORMのようなモーメンタムに基づく分散低減技術は、リーマン最適化に効果的に適応可能か？
• RQ4 提案されたMVR-RSGDAアルゴリズムは、大規模バッチに依存せずに近似的最適なサンプル複雑度を達成できるか？
• RQ5 提案されたアルゴリズムは、リーマン多様体上でのロバストディープラーニングタスクにおいて実際の性能を発揮するか？

主な発見

• 決定的RGDAアルゴリズムは、非凸強く凹型ミニマックス問題において、ϵ-停留点を求めるサンプル複雑度O(κ²ϵ⁻²)を達成する。
• 確率的RSGDAアルゴリズムは、確率的ノイズのため、決定的ケースより高いサンプル複雑度O(κ⁴ϵ⁻⁴)を示す。
• 提案されたMVR-RSGDAアルゴリズムは、新規のモーメンタム分散低減技術を活用し、サンプル複雑度をO~(κ⁴ϵ⁻³)まで低減。これは、ユークリッド空間における既知の最良の複雑度に近づく。
• MVR-RSGDAアルゴリズムは、大規模バッチを必要とせず、実用的効率性を向上させた。
• Stiefel多様体上でのロバストディープニューラルネットワーク訓練に関する広範な実験により、提案アルゴリズムの効率性とスケーラビリティを確認した。
• 理論的境界と実験的結果から、リーマンミニマックス最適化が、非凸設定下でもユークリッド手法と競合可能な性能を達成できることを示した。