[논문 리뷰] Improved generator objectives for GANs

Ben Poole, Alexander A. Alemi외 2명|arXiv (Cornell University)|2016. 12. 08.

Generative Adversarial Networks and Image Synthesis참고 문헌 13인용 수 52

한 줄 요약

이 논문은 GAN 학습을 번갈아가며 밀도 비율 추정과 발산 최소화로 재해석하며, 표준 GAN 생성자 목적함수는 역 KL과 유사한 모드 탐색 발산을 목표로 한다고 밝힌다. 이는 낮은 샘플 다양성의 원인을 설명한다. 본 논문은 임의의 f-발산을 직접 최소화하는 새로운 생성자 목적함수의 가족을 제안하여 샘플 품질과 다양성 간의 제어 가능한 트레이드오프를 가능하게 하며, CIFAR-10에서 품질을 희생하지 않고도 다양성이 향상된 결과를 보였다.

ABSTRACT

We present a framework to understand GAN training as alternating density ratio estimation and approximate divergence minimization. This provides an interpretation for the mismatched GAN generator and discriminator objectives often used in practice, and explains the problem of poor sample diversity. We also derive a family of generator objectives that target arbitrary $f$-divergences without minimizing a lower bound, and use them to train generative image models that target either improved sample quality or greater sample diversity.

연구 동기 및 목표

• 실제로 널리 사용되는 생성자와 판별자 목적함수 간의 불일치를 설명하고, 특히 샘플 다양성이 낮아지는 이유를 밝히는 것.
• 실제 GAN 학습 목적함수의 이론적 정당성을 제시하며, 이 목적함수가 모드 탐색 발산을 목표로 한다는 틀을 제공하는 것.
• 임의의 f-발산을 직접 최소화하는 새로운 생성자 목적함수의 가족을 유도하여 샘플 다양성과 품질을 제어할 수 있도록 하는 것.
• 이러한 새로운 목적함수들이 CIFAR-10에서 샘플 다양성을 향상시키지만 품질을 유지하거나 향상시킨다는 것을 경험적으로 검증하는 것.
• 하한 최소화에 의존하지 않고 하위 목적함수를 제안하며, 목표로 하는 발산 최적화를 가능하게 하는 원칙적인 대안을 제공하는 것.

제안 방법

• GAN 학습을 번갈아가며 밀도 비율 추정과 f-발산 최소화로 재해석하며, 데이터 분포와 모델 분포 간 특정 f-발산을 최적화하는 과정으로 프레임워크를 설정하는 것.
• 표준 GAN 생성자 목적함수 $\mathcal{G}_{\text{ALT}}$를 유도하며, 이는 음의 판별자 출력의 기대값을 최소화하는 것으로, 모드 탐색 발산을 최소화하는 것으로 해석된다.
• 발산 함수의 Fenchel 쌍을 이용해 적절한 생성자 목적함수를 선택하여 임의의 f-발산을 목표로 하는 일반적 프레임워크를 제안하는 것.
• 모든 실험에서 동일한 판별자 목적함수(표준 GAN)를 사용하며, 유일하게 변하는 것은 생성자 목적함수로, 이로써 샘플 다양성과 품질에 미치는 영향을 분리하여 분석하는 것.
• 모드 커버리지와 모드 탐색 간의 트레이드오프를 체계적으로 탐색하기 위해 α로 매개변수화된 α-발산 가족을 사용하는 것.
• 동일한 아키텍처와 하이퍼파라미터를 사용하여 CIFAR-10에서 생성 모델을 학습하며, 판별자는 표준 GAN 목적함수로, 생성자는 다양한 f-발산 목적함수로 학습하는 것.

실험 결과

연구 질문

• RQ1 표준 GAN은 높은 시각적 품질을 보이지만 왜 낮은 다양성의 샘플을 생성하는가?
• RQ2 실제로 실용적인 GAN 생성자 목적함수가 최소화하는 발산은 무엇이며, 이는 이론적으로 타당한 목적함수와 어떻게 다를까?
• RQ3 하한 최소화에 의존하지 않고도 임의의 f-발산을 직접 최소화하는 생성자 목적함수를 설계할 수 있는가?
• RQ4 다양한 f-발산 목표는 GAN 생성 이미지에서 샘플 품질과 다양성 간의 트레이드오프에 어떻게 영향을 미치는가?
• RQ5 생성자 목적함수를 수정함으로써 샘플 다양성을 향상시키되, 품질을 떨어뜨리지 않을 수 있는가?

주요 결과

• 표준 GAN 생성자 목적함수 ($\mathcal{G}_{\text{ALT}}$)는 역 KL과 유사한 행동을 보이는 모드 탐색 발산을 최소화하며, 이는 실무에서 흔히 발생하는 모드 누락 현상을 설명한다.
• 제곱 헬링거 또는 KL과 같은 더 모드 커버리지가 높은 발산을 생성자 목적함수로 목표로 하면, 클래스 및 색상 커버리지 측면에서 CIFAR-10에서 샘플 다양성이 크게 향상됨을 입증한다.
• 매우 모드 탐색 성향이 강한 발산(예: α = -3)에 대해서조차도 샘플 품질이 높게 유지되며, 이는 모드 탐색이 반드시 시각적 품질을 떨어뜨리지 않는다는 것을 시사한다.
• 제안된 생성자 목적함수들은 다양성과 품질 간의 매끄러운 트레이드오프를 가능하게 하며, 더 모드 커버리지가 높은 발산을 목표로 할 때도 샘플 품질에 눈에 띄는 떨어짐이 없음을 확인한다.
• 표준 GAN 목적함수로 학습된 판별자는 모든 생성자 목적함수에서 일관되게 고품질의 샘플을 생성하며, 이는 생성자 목적함수가 다양성에 주요 영향을 미친다는 것을 확인한다.
• 시각적 비교 결과, 모드 커버리지 목적함수(예: α = 0.5, KL)는 더 다양한 샘플과 균형 잡힌 클래스 분포를 생성하는 반면, 모드 탐색 목적함수(예: α = -3)는 녹색과 Café 색상과 같은 주요 클래스를 과도하게 반영한다.