[논문 리뷰] On Characterizing GAN Convergence Through Proximal Duality Gap

Sahil Sidheekh, Aroof Aimen외 1명|arXiv (Cornell University)|2021. 05. 11.

Model Reduction and Neural Networks참고 문헌 39인용 수 5

한 줄 요약

이 논문은 Proximal Duality Gap (DG^λ)를 도입하여, 나이시 균형이 아닌 경우에도 일반화된 수렴 기준을 제공하는 GAN을 위한 새로운 수렴 측정지표를 제안한다. 이는 나이시 균형이 아닌 경우에도 효과적으로 작용하며, FID 및 IS와 강한 상관관계를 보이며, 객관적인 훈련 모니터링과 하이퍼파rameter 튜닝을 가능하게 한다.

ABSTRACT

Despite the accomplishments of Generative Adversarial Networks (GANs) in modeling data distributions, training them remains a challenging task. A contributing factor to this difficulty is the non-intuitive nature of the GAN loss curves, which necessitates a subjective evaluation of the generated output to infer training progress. Recently, motivated by game theory, duality gap has been proposed as a domain agnostic measure to monitor GAN training. However, it is restricted to the setting when the GAN converges to a Nash equilibrium. But GANs need not always converge to a Nash equilibrium to model the data distribution. In this work, we extend the notion of duality gap to proximal duality gap that is applicable to the general context of training GANs where Nash equilibria may not exist. We show theoretically that the proximal duality gap is capable of monitoring the convergence of GANs to a wider spectrum of equilibria that subsumes Nash equilibria. We also theoretically establish the relationship between the proximal duality gap and the divergence between the real and generated data distributions for different GAN formulations. Our results provide new insights into the nature of GAN convergence. Finally, we validate experimentally the usefulness of proximal duality gap for monitoring and influencing GAN training.

연구 동기 및 목표

• GAN 훈련 모니터링에서 전통적인 이중성 갭(DG)의 한계를 해결한다. 이는 나이시 균형으로 수렴하는 데 의존하는 반면, 실질적으로 항상 성립하지는 않기 때문이다.
• GAN 손실 곡선이 비직관적인 행동을 보여 훈련 진행 상황을 객관적으로 평가하기 어려운 문제를 해결한다.
• 특히 정규화된 GAN 설정에서 나이시 균형이 아닌 안정된 정적점에도 적용 가능한 일반화된 수렴 측정지표를 개발한다.
• DG^λ와 실제 데이터 분포와 생성된 데이터 분포 간의 발산 간 이론적·실증적 연관성을 확립한다. 이는 FID 및 IS를 통해 측정된다.
• DG^λ가 디스커리미네이터-생성자 업데이트 비율과 같은 하이퍼파rameter 튜닝을 안내하는 데 유용함을 입증한다. 이는 GAN 훈련의 안정성을 향상시킨다.

제안 방법

• 기존 GAN 손실에 매개변수 θ₀(현재 설정)를 기준으로 한 정규화 항 λ‖θ − θ₀‖²을 추가하여 Proximal GAN 목적함수를 정의한다.
• Proximal Duality Gap (DG^λ)를 정의한다. 이는 Proximal GAN 목적함수의 이중성 갭으로, Proximal 정규화 하에 단일 측면의 이탈로 기대 가능한 이득을 측정한다.
• 이론적으로 DG^λ가 0이 되는 것은 GAN 매개변수가 λ-근접 균형에 있을 때에만 성립하며, 이는 나이시 균형을 일반화한 것이다.
• 다양한 GAN 설정에서 DG^λ와 실제 데이터 및 생성된 데이터 분포 간의 발산 간 이론적 관계를 수립한다.
• MNIST, CIFAR-10, CelebA에서 WGAN을 사용하여 DG^λ의 실증적 검증을 수행하며, 훈련 중 FID 및 IS와의 상관관계를 계산한다.
• DG^λ를 손실 대체 지표로 사용하여 디스커리미네이터-생성자 업데이트 비율(N)을 튜닝한다. DG^λ가 최소가 되고 샘플 품질이 최고가 되는 최적의 하이퍼파rameter 범위를 식별한다.

실험 결과

연구 질문

• RQ1 GAN은 나이시 균형이 아닌 안정된 정적점에서도 실제 데이터 분포를 학습할 수 있는가?
• RQ2 GAN이 나이시 균형으로 수렴하지 않을 경우, 표준 이중성 갭(DG)이 수렴 모니터링에 실패하는가?
• RQ3 특히 정규화 조건 하에서 비나이시 설정에서도 효과적으로 작용하는 일반화된 이중성 갭 측정지표를 구성할 수 있는가?
• RQ4 다양한 데이터셋과 훈련 동역학에서 Proximal Duality Gap (DG^λ)는 FID 및 IS와 어떻게 상관관계를 가지는가?
• RQ5 DG^λ는 디스커리미네이터와 생성자 간의 업데이트 비율 튜닝과 같이 GAN 훈련의 하이퍼파ram터 튜닝을 객관적으로 안내하는 데 사용될 수 있는가?

주요 결과

• 모든 세 데이터셋에서 DG^λ는 FID 및 IS와 강하게 상관된다. MNIST에서는 DG^λ와 FID 간 상관계수는 0.957이며, IS와는 -0.892이다.
• CIFAR-10에서는 DG^λ와 FID 간 상관계수는 0.738, IS와는 -0.854로, 샘플 품질과의 강한 일치를 보인다.
• CelebA에서는 DG^λ와 FID 간 상관계수는 0.699, IS와는 -0.524로, 복잡한 데이터셋에서도 효과성을 확인한다.
• 작은 λ(≤1)일 경우, 모든 데이터셋에서 DG^λ는 안정적으로 0에 가까이 유지되며, Proximal 정규화에 대한 강건성을 보인다.
• λ가 임계값을 초과하면(10¹은 CIFAR-10 및 CelebA, 10⁴는 MNIST), DG^λ는 급격히 증가하고 표준 DG로 수렴함을 확인하여 이론적 등가성을 입증한다.
• 하이퍼파ram터 튜닝에서 DG^λ는 최적의 업데이트 비율을 식별한다. DG^λ는 균형 잡힌 또는 생성자 중심 업데이트(N ≤ 5)에서는 낮게 유지되며(파랑), 고비율(N ≥ 8)에서는 급격히 증가함(빨강)하여 샘플 품질 저하와 대응된다.