[논문 리뷰] Solving Weakly-Convex-Weakly-Concave Saddle-Point Problems as Weakly-Monotone Variational Inequality

Qihang Lin, Mingrui Liu외 2명|arXiv (Cornell University)|2018. 10. 24.

Sparse and Compressive Sensing Techniques인용 수 28

한 줄 요약

이 논문은 GAN 훈련에서 흔히 발생하는 약한 볼록-약한 볼록형 최소최대 문제를 해결하기 위한 새로운 알고리즘 프레임워크를 제안한다. 이는 문제를 약한 단조성 변분부등식으로 재구성함으로써 이루어지며, 비정확한 프락시멀 포인트 방법을 통해 강한 단조성 부분 문제를 반복적으로 해결함으로써, 증명 가능한 수렴 속도를 확보하는 일阶 수렴을 거의 정적 해에 도달한다.

ABSTRACT

In this paper, we consider first-order convergence theory and algorithms for solving a class of non-convex non-concave min-max saddle-point problems, whose objective function is weakly convex in the variables of minimization and weakly concave in the variables of maximization. It has many important applications in machine learning including training Generative Adversarial Nets (GANs). We propose an algorithmic framework motivated by the inexact proximal point method, where the weakly monotone variational inequality (VI) corresponding to the original min-max problem is solved through approximately solving a sequence of strongly monotone VIs constructed by adding a strongly monotone mapping to the original gradient mapping. We prove first-order convergence to a nearly stationary solution of the original min-max problem of the generic algorithmic framework and establish different rates by employing different algorithms for solving each strongly monotone VI. Experiments verify the convergence theory and also demonstrate the effectiveness of the proposed methods on training GANs.

연구 동기 및 목표

• 기계학습, 특히 GAN 훈련에서 발생하는 비볼록 비볼록 최소최대 문제를 해결하는 데 도전한다.
• 약한 볼록-약한 볼록 손실 함수를 갖는 사다리꼴 문제를 대상으로 하는 알고리즘에 대한 일阶 수렴 이론을 개발한다.
• 변분부등식 프레임워크 아래에서 거의 정적 해로의 수렴 보장을 수립한다.
• 서브문제를 위한 다양한 해법을 통합할 수 있는 일반적인 알고리즘 프레임워크를 설계한다.

제안 방법

• 목적 함수의 그래디언트 매핑을 사용하여 원래 최소최대 문제를 약한 단조성 변분부등식(VI)으로 재구성한다.
• 원래 그래디언트 매핑에 강한 단조성 매핑을 추가하여 강한 단조성 VI의 수열을 구성한다.
• 비정확한 프락시멀 포인트 방법을 적용하여 이 강한 단조성 VI 수열을 근사적으로 해결한다.
• 각 강한 단조성 VI 서브문제에 대해 서로 다른 일阶 해법을 사용하여 다양한 수렴 속도를 달성한다.
• 반복적 정밀화를 통해 원래 문제의 거의 정적 해로의 전역 수렴을 확보한다.
• 원래 VI의 약한 단조성을 활용하여 적절한 가정 하에 수렴 속도를 도출한다.

실험 결과

연구 질문

• RQ1 약한 볼록-약한 볼록 구조를 갖는 최소최대 문제에 대해 일阶 수렴 보장을 확립할 수 있는가?
• RQ2 변분부등식 이론을 활용하여 비볼록 비볼록 목표 함수를 최소최대 최적화에서 효과적으로 다룰 수 있는가?
• RQ3 비정확한 프락시멀 포인트 프레임워크에서 서브문제에 적용된 다양한 해법이 얻을 수 있는 수렴 속도는 무엇인가?
• RQ4 비볼록성과 비볼록성에도 불구하고 제안된 프레임워크가 GAN 훈련에서 실용적으로 효과적인가?

주요 결과

• 제안된 알고리즘 프레임워크는 원래의 약한 볼록-약한 볼록형 최소최대 문제에 대해 거의 정적 해로의 일阶 수렴을 달성한다.
• 서브문제의 강한 단조성 부분 문제를 해결하는 데 사용된 해법의 선택에 따라 다른 수렴 속도가 확립된다.
• 이 프레임워크는 GAN 훈련에서 발생하는 비볼록 비볼록 문제의 광범위한 클래스에 적용 가능하다.
• 실험 결과는 이론적 수렴 행동을 확인하며, GAN 훈련에서의 실용적 효과성을 입증한다.
• 이 방법은 문제를 잘 조절된 부분 문제의 수열으로 변환함으로써 약한 볼록-약한 볼록 문제를 통합적으로 해결하는 데 기여한다.
• 비정확한 프락시멀 포인트 접근법은 부분 문제를 근사적으로 해결하더라도 강건성과 수렴성을 보장한다.