[논문 리뷰] GANs beyond divergence minimization

Alexia Jolicoeur‐Martineau|arXiv (Cornell University)|2018. 09. 06.

Adversarial Robustness in Machine Learning참고 문헌 25인용 수 6

한 줄 요약

이 논문은 GAN이 생성자를 훈련시킬 때 발산을 최소화한다는 널리 퍼진 믿음을 도전하며, 대부분의 생성자 손실 함수가 실제로 발산이 아니며 디스크림이터의 목표를 따라야 할 필요가 없다는 것을 보여준다. 이 논문은 네 가지 새로운 생성자 손실 함수 유형을 제안하며, 그 중 일부는 실제 발산이다. 다양한 손실 함수가 잘 수렴하고 기존 GAN과 유사한 생성 품질을 낼 수 있음을 입증함으로써, GAN이 이전에 생각했던 것보다 더 유연하다는 것을 시사한다.

ABSTRACT

Generative adversarial networks (GANs) can be interpreted as an adversarial game between two players, a discriminator D and a generator G, in which D learns to classify real from fake data and G learns to generate realistic data by "fooling" D into thinking that fake data is actually real data. Currently, a dominating view is that G actually learns by minimizing a divergence given that the general objective function is a divergence when D is optimal. However, this view has been challenged due to inconsistencies between theory and practice. In this paper, we discuss of the properties associated with most loss functions for G (e.g., saturating/non-saturating f-GAN, LSGAN, WGAN, etc.). We show that these loss functions are not divergences and do not have the same equilibrium as expected of divergences. This suggests that G does not need to minimize the same objective function as D maximize, nor maximize the objective of D after swapping real data with fake data (non-saturating GAN) but can instead use a wide range of possible loss functions to learn to generate realistic data. We define GANs through two separate and independent D maximization and G minimization steps. We generalize the generator step to four new classes of loss functions, most of which are actual divergences (while traditional G loss functions are not). We test a wide variety of loss functions from these four classes on a synthetic dataset and on CIFAR-10. We observe that most loss functions converge well and provide comparable data generation quality to non-saturating GAN, LSGAN, and WGAN-GP generator loss functions, whether we use divergences or non-divergences. These results suggest that GANs do not conform well to the divergence minimization theory and form a much broader range of models than previously assumed.

연구 동기 및 목표

• 디스크림이터가 최적일 때 GAN이 생성자를 훈련시킬 때 발산을 최소화한다는 지배적인 이론을 도전하기 위해.
• 실제로는 생성자 손실 함수가 발산인지, 또는 발산 기반 목표에서 벗어나 있는지 조사하기 위해.
• 실제로 발산인 일부 손실 함수를 포함한 네 가지 새로운 생성자 손실 함수 유형을 제안하고 평가하여 GAN의 설계 공간을 넓히기 위해.
• 생성자 훈련에 실제 발산을 사용할 경우 비발산 손실 함수보다 성능 향상이 이루어지는지 테스트하기 위해.
• 생성자 훈련이 디스크림이터의 목표 함수와 일치시킬 필요가 없음을 입증함으로써, 손실 함수 설계의 유연성을 높이기 위해.

제안 방법

• 디스크림이터 최대화와 생성자 최소화의 두 개의 독립된 최적화 단계로 GAN을 재해석하여 두 목표를 분리한다.
• 네 가지 새로운 생성자 손실 함수 유형을 도입한다: (1) 가짜 디스크림이터 출력을 진짜 레이블과 일치시키기, (2) 임계값(예: 0.5)과 일치시키기, (3) 가짜 출력의 평균을 진짜 출력의 평균과 일치시키기, (4) Divergence Matching(DM) 및 Log-likelihood Matching(LM)와 같은 적절한 발산을 사용하기.
• 디스크림이터의 목표 함수에 의존하지 않고, 가짜 데이터에 대한 디스크림이터 출력과 목표값(예: y_real, y_mid) 사이의 거리 최소화를 기반으로 생성자 손실을 정의한다.
• 합성 데이터(Swiss roll)와 실제 데이터(CIFAR-10)를 모두 사용하여 다양한 손실 함수의 수렴성과 생성 품질을 평가한다.
• 생성 품질을 정량적으로 비교하기 위해 Fréchet Inception Distance(FID)와 Inception Score(IS)를 사용한다.
• 특히 디스크림이터가 거의 완벽해진 경우의 기울기 행동과 수렴 동역학을 분석하여, 다양한 손실 함수의 안정성과 탄력성을 평가한다.

실험 결과

연구 질문

• RQ1 표준 GAN 생성자 손실 함수가 디스크림이터가 최적일 때조차도 실제로 발산인지?
• RQ2 생성자 단계에서 공식 발산을 최소화할 경우 비발산 손실 함수보다 더 나은 생성 성능을 낼 수 있는가?
• RQ3 생성자 훈련을 디스크림이터의 목표 함수에서 분리해도 성능에 영향을 주지 않는가?
• RQ4 가짜 데이터의 디스크림이터 출력을 진짜 레이블이나 임계값(예: 0.5)과 일치시키는 손실 함수가 비포화 GAN과 유사한 성능을 낼 수 있는가?
• RQ5 이론적으로 유리한 점이 있는 일부 발산(DM, LM)이 합성 데이터에서 잘 수렴하지 못하는 이유는 무엇인가?

주요 결과

• 비포화 GAN, LSGAN, WGAN-GP를 포함한 대부분의 표준 GAN 생성자 손실 함수는 디스크림이터가 최적일 때조차도 실제로 발산이 아니며, 이는 이론적 기반에 대한 의문을 제기한다.
• 생성자는 디스크림이터가 최대화하는 동일한 목표를 최소화할 필요가 없으며, 진짜와 가짜 데이터를 뒤바꿔도 디스크림이터의 목표를 따라야 할 필요가 없다.
• 비발산 손실 함수를 포함한 다양한 손실 함수가 잘 수렴하며, CIFAR-10에서 비포화 GAN, LSGAN, WGAN-GP와 유사한 생성 품질을 낸다.
• Swiss roll 데이터셋에서 발산 기반 손실 함수(DM 및 LM with y_mid)는 성능이 열 劣하여, 공식 발산이 수렴을 보장하지는 않음을 시사한다.
• CIFAR-10에서 FID 점수는 모든 테스트된 손실 함수에서 일관되게 경쟁력 있었으며, 어떤 손실 함수도 뚜렷하게 뛰어난 성능을 보이지 않았다.
• 결과는 생성자가 주로 가짜 데이터에 대한 디스크림이터 출력을 높이기 위해 학습하고 있으며, 발산 최소화를 위한 이론적 기반은 GAN에서 약화된다는 것을 시사한다.