[논문 리뷰] Gradient Descent Ascent for Min-Max Problems on Riemannian Manifolds

Feihu Huang, Shangqian Gao외 1명|arXiv (Cornell University)|2021. 05. 04.

Stochastic Gradient Optimization Techniques참고 문헌 51인용 수 4

한 줄 요약

이 논문은 리만 다양체 위에서 비볼록 미니맥스 문제를 해결하기 위해 리만 기울기 하강-상승(RGDA) 및 그 스위치 변종을 제안하며, 더 나은 샘플 복잡도를 달성한다: 결정론적 경우 O(κ²ϵ⁻²), 스위치 경우 O(κ⁴ϵ⁻⁴), 모멘텀 분산 감소 변종의 경우 O~(κ⁴ϵ⁻³)로, 큰 배치를 사용하지 않고 유클리드 대응항과 거의 최적의 성능를 달성한다.

ABSTRACT

In the paper, we study a class of useful non-convex minimax optimization problems on Riemanian manifolds and propose a class of Riemanian gradient descent ascent algorithms to solve these minimax problems. Specifically, we propose a new Riemannian gradient descent ascent (RGDA) algorithm for the deterministic minimax optimization. Moreover, we prove that the RGDA has a sample complexity of O(κ2ϵ−2) for finding an ϵ-stationary point of the nonconvex strongly-concave minimax problems, where κ denotes the condition number. At the same time, we introduce a Riemannian stochastic gradient descent ascent (RSGDA) algorithm for the stochastic minimax optimization. In the theoretical analysis, we prove that the RSGDA can achieve a sample complexity of O(κ4ϵ−4). To further reduce the sample complexity, we propose a novel momentum variance-reduced Riemannian stochastic gradient descent ascent (MVR-RSGDA) algorithm based on a new momentum variance-reduced technique of STORM. We prove that the MVR-RSGDA algorithm achieves a lower sample complexity of O~(κ4ϵ−3) without large batches, which reaches near the best known sample complexity for its Euclidean counterparts. Extensive experimental results on the robust deep neural networks training over Stiefel manifold demonstrate the efficiency of our proposed algorithms.

연구 동기 및 목표

• 강건한 머신러닝에서 흔한 비볼록 미니맥스 최적화 문제를 리만 다각체에서 다루기 위해.
• 곡선이고 비유클리드인 공간에서 수렴 보장을 유지하면서도 효율적인 리만 알고리즘을 개발하기 위해.
• 리만 다각체 상에서 스위치 미니맥스 문제에 대해 거의 최적의 샘플 복잡도를 달성하여 유클리드 공간에서의 최고 성능에 맞추기 위해.
• 새로운 모멘텀 기반 분산 감소 기법(STORM)을 리만 기하학에 적응시켜 스위치 업데이트의 분산을 줄이기 위해.
• 스티펠 다각체 상에서 강건한 딥 네트워크 훈련에 대해 제안된 알고리즘을 실증적으로 검증하기 위해.

제안 방법

• 비볼록 미니맥스 문제에 대해 결정론적 경우를 다루기 위해 리만 기울기 하강-상승(RGDA) 알고리즘을 제안하며, 최소화자와 최대화자 모두에 대해 리만 기울기를 사용한다.
• 스위치 목표를 다루기 위해 리만 기울기 하강-상승(RSGDA) 알고리즘을 도입하며, 스위치 기울기를 탄성 공간에 투영한다.
• 새로운 STORM 기반 모멘텀 기법을 사용해 분산을 감소시키는 모멘텀 분산 감소 리만 기울기 하강-상승(MVR-RSGDA) 알고리즘을 설계한다.
• 최적화 도중 반복을 다각체 위에 유지하기 위해 리만 재구성과 벡터 운반을 활용하여 기하학적 일관성을 확보한다.
• 리만 곡률과 조건수 κ를 활용해 수렴성을 분석하며, 샘플 복잡도를 다각체의 구조와 연결한다.
• 비볼록 강력-볼록 조건 하에서 이론적 샘플 복잡도 경계를 유도하며, 리만 최적화 도구를 사용한다.

실험 결과

연구 질문

• RQ1 곡선 다각체 상에서 비볼록 미니맥스 문제에 대해 리만 기울기 하강-상승이 수렴 보장을 달성할 수 있는가?
• RQ2 리만 기반 스위치 미니맥스 최적화의 이론적 샘플 복잡도는 무엇이며, 유클리드 대응항과 비교해 어떻게 되는가?
• RQ3 STORM과 같은 모멘텀 기반 분산 감소 기법을 리만 최적화에 효과적으로 적응시킬 수 있는가?
• RQ4 제안된 MVR-RSGDA 알고리즘이 큰 배치 없이 거의 최적의 샘플 복잡도를 달성할 수 있는가?
• RQ5 제안된 알고리즘은 리만 다각체 상에서 강건한 딥러닝 작업에서 실제로 어떻게 성능을 발휘하는가?

주요 결과

• 결정론적 RGDA 알고리즘은 비볼록 강력-볼록 미니맥스 문제에서 ϵ-정류점(ϵ-stationary point)을 찾는 데 O(κ²ϵ⁻²)의 샘플 복잡도를 달성한다.
• 스위치 RSGDA 알고리즘은 스위치 노이즈로 인해 결정론적 경우보다 더 높은 샘플 복잡도 O(κ⁴ϵ⁻⁴)를 가진다.
• 제안된 MVR-RSGDA 알고리즘은 새로운 모멘텀 분산 감소 기법을 활용해 샘플 복잡도를 O~(κ⁴ϵ⁻³)로 감소시켜 유클리드 미니맥스 문제의 최고 성능에 가까워진다.
• MVR-RSGDA 알고리즘은 더 큰 배치를 요구하지 않으며, 이로 인해 실용적 효율성이 향상된다.
• 스티펠 다각체 상에서 강건한 딥 네트워크 훈련에 대한 광범위한 실험을 통해 제안된 알고리즘의 효율성과 확장성을 확인하였다.
• 이론적 경계와 실증 결과는 리만 미니맥스 최적화가 비볼록 설정에서도 유클리드 방법과 경쟁 가능한 성능을 달성할 수 있음을 보여준다.