[논문 리뷰] Global Convergence to the Equilibrium of GANs using Variational Inequalities

Ian Gemp, Sridhar Mahadevan|arXiv (Cornell University)|2018. 08. 04.

Model Reduction and Neural Networks참고 문헌 54인용 수 27

한 줄 요약

이 논문은 변분부등식을 활용하여 워셔스테인 선형-제곱형 GAN(LQ-GAN) 설정에서 전역 수렴을 달성하는 새로운 훈련 알고리즘인 Crossing-the-Curl을 소개한다. 이 방법은 경사 하강 방향과 수직인 특별한 직교 방향을 식별하고 따라가며, $Ø(N/k)$의 확률적 수렴 속도를 달성함으로써 기존의 경사 기반 훈련에서 발생하는 불안정성을 해결한다.

ABSTRACT

In optimization, the negative gradient of a function denotes the direction of steepest descent. Furthermore, traveling in any direction orthogonal to the gradient maintains the value of the function. In this work, we show that these orthogonal directions that are ignored by gradient descent can be critical in equilibrium problems. Equilibrium problems have drawn heightened attention in machine learning due to the emergence of the Generative Adversarial Network (GAN). We use the framework of Variational Inequalities to analyze popular training algorithms for a fundamental GAN variant: the Wasserstein Linear-Quadratic GAN. We show that the steepest descent direction causes divergence from the equilibrium, and convergence to the equilibrium is achieved through following a particular orthogonal direction. We call this successful technique Crossing-the-Curl, named for its mathematical derivation as well as its intuition: identify the game's axis of rotation and move "across" space in the direction towards smaller "curling".

연구 동기 및 목표

• 기본적인 GAN 훈련 알고리즘에서 전역 수렴 보장을 하지 못하는 문제를 해결하기 위해.
• 가장 최소이지만 대표적인 워셔스테인 LQ-GAN 프레임워크에서 GAN 훈련의 수렴 행동을 분석하기 위해.
• 기본 경사 하강이 수직 방향을 忽시함으로써 평형점에서 벗어나는 이유를 규명하기 위해.
• 특정 수직 방향을 따라가도록 하는 새로운 훈련 방법을 개발하여 전역 수렴을 달성하기 위해.
• 제시된 방법이 합성 및 실제 세계 설정 모두에서 표준 GAN 훈련을 능가함을 경험적으로 입증하기 위해.

제안 방법

• GAN의 평형 문제를 분석하기 위한 이론적 프레임워크로 변분부등식을 사용하여 볼록 최적화를 일반화한다.
• GAN 훈련에서 가장 급격한 내림쪽 방향이 게임의 자코비안의 비모노톤성으로 인해 순환적이고 발산하는 행동을 유도함을 규명한다.
• 경사에 수직으로 이동하는 새로운 업데이트 방향인 Crossing-the-Curl을 유도하며, 이는 게임의 컬(회전) 축과 일치하여 평형점에 도달한다.
• LQ-GAN 모델에서 평균, 분산, 선형 변환 매개변수를 순차적으로 추정하기 위해 단계적 학습 절차를 적용한다.
• 국소 수렴 후 투영된 시스템에 대해 외삽법(extragradient)을 적용하여 $Ø(N/k)$ 속도로 전역 수렴을 보장한다.
• 다변량 LQ-GAN 및 딥 네ural 네트워크 설정(예: CIFAR-10 및 가우시안 혼합 모델)에서 방법을 검증한다.

실험 결과

연구 질문

• RQ1 왜 기존의 경사 기반 GAN 훈련 알고리즘이 볼록 설정에서는 이론적으로 보장되지만 LQ-GAN 설정에서는 전역 수렴에 실패하는가?
• RQ2 경사에 수직인 방향은 평형 문제에서 어떤 역할을 하는가? 왜 이 방향이 수렴에 필수적인가?
• RQ3 이러한 수직 방향을 따라가도록 체계적인 방법을 설계하여 GAN에서 전역 수렴을 달성할 수 있는가?
• RQ4 제안된 Crossing-the-Curl 방법은 딥러닝 벤치마크에서 표준 GAN 훈련과 비교해 경험적으로 어떻게 성능을 냈는가?
• RQ5 제안된 방법의 이론적 수렴 속도는 무엇이며, 차원 수와 어떻게 스케일링되는가?

주요 결과

• LQ-GAN에서의 표준 동시 경사 하강은 게임의 자코비안의 비모노톤 구조로 인해 순환적이고 발산하는 궤적을 보인다.
• GAN 훈련에서 가장 급격한 내림쪽 방향은 수직 방향에서 함수 값이 일정하게 유지되기 때문에 평형점으로 수렴하지 못한다.
• 변분부등식 기반의 새로운 알고리즘인 Crossing-the-Curl은 N차원 LQ-GAN 설정에서 높은 확률로 전역 수렴을 달성한다.
• 단계적 학습 절차의 순차성로 인해 $Ø(N/k)$의 확률적 수렴 속도를 달성한다.
• 가우시안 혼합 모델 및 CIFAR-10에서의 경험적 결과는 작은 $-JF$ 항을 도입함으로써 수렴 속도가 향상되고 샘플 품질이 향상됨을 보여준다.
• 정성적 및 정량적 지표 모두에서 표준 GAN 훈련을 능가하며, 모드 커버리지가 향상되고 훈련의 불안정성이 감소한다.