[논문 리뷰] Relaxed Wasserstein with Applications to GANs

Xin Guo, Johnny Hong외 2명|arXiv (Cornell University)|2017. 05. 19.

Generative Adversarial Networks and Image Synthesis참고 문헌 25인용 수 22

한 줄 요약

이 논문은 Bregman 비용 함수를 사용하여 Wasserstein-1을 일반화함으로써 더 유연하고 계산적으로 효율적인 GAN 훈련을 가능하게 하는 Relaxed Wasserstein (RW) 거리의 개념을 도입한다. Kullback-Leibler 비용을 사용한 제안된 RWGAN은 실제 이미지 데이터셋에서 수렴 속도와 안정성 면에서 WGAN 및 기울기 보정이 적용된 WGAN보다 뛰어나다.

ABSTRACT

Wasserstein Generative Adversarial Networks (WGANs) provide a versatile class of models, which have attracted great attention in various applications. However, this framework has two main drawbacks: (i) Wasserstein-1 (or Earth-Mover) distance is restrictive such that WGANs cannot always fit data geometry well; (ii) It is difficult to achieve fast training of WGANs. In this paper, we propose a new class of extit{Relaxed Wasserstein} (RW) distances by generalizing Wasserstein-1 distance with Bregman cost functions. We show that RW distances achieve nice statistical properties while not sacrificing the computational tractability. Combined with the GANs framework, we develop Relaxed WGANs (RWGANs) which are not only statistically flexible but can be approximated efficiently using heuristic approaches. Experiments on real images demonstrate that the RWGAN with Kullback-Leibler (KL) cost function outperforms other competing approaches, e.g., WGANs, even with gradient penalty.

연구 동기 및 목표

• WGAN의 제한 사항, 즉 제약이 많은 데이터 기하학적 적합성과 느린 수렴 속도를 해결한다.
• 통계적 융통성과 계산 가능성을 균형 잡는 일반화된 거리 측도를 개발한다.
• 고품질의 샘플 생성을 유지하면서도 GAN의 더 빠르고 안정적인 훈련을 가능하게 한다.
• Bregman 발산을 비용 함수로 사용하는 통합된 프레임워크를 제공한다.

제안 방법

• Bregman 비용 함수를 사용하여 Wasserstein-1 거리를 일반화하여 새로운 종류의 Relaxed Wasserstein (RW) 거리를 정의한다.
• RW 거리가 총 변동 거리에 의해 지배됨을 증명하고 비점근적 모멘트 추정을 유도한다.
• RW 거리의 이중성 표현을 수립하여 기울기 기반 최적화를 가능하게 한다.
• Bregman 함수에 기반한 비대칭 클리핑 히우리스틱을 제안하여 판별기에서 리프시츠 조건을 강제한다.
• RW 거리를 GAN 프레임워크에 통합하여 RWGAN을 구성하며, 훈련에 대해 큰 스텝 크기의 RMSProp을 사용한다.
• CIFAR-10 및 ImageNet에서 DCGAN 및 MLP 아키텍처를 사용하여 이미지 생성에 이 프레임워크를 적용한다.

실험 결과

연구 질문

• RQ1 Bregman 비용 함수는 계산 효율성을 희생시키지 않고도 Wasserstein GAN의 통계적 융통성을 향상시킬 수 있는가?
• RQ2 RW 거리의 이중성은 기울기 기반 훈련을 GAN에서 효과적으로 가능하게 하는가?
• RQ3 RWGAN 프레임워크는 WGAN 및 기울기 보정이 적용된 WGAN에 비해 더 빠른 수렴 속도와 더 높은 안정성을 달성하는가?
• RQ4 다양한 Bregman 비용 함수(예: KL 발산)가 샘플 품질과 훈련 안정성에 미치는 영향은 무엇인가?
• RQ5 RWGAN은 CIFAR-10 및 ImageNet과 같은 다양한 이미지 데이터셋에서 잘 일반화되는가?

주요 결과

• CIFAR-10 및 ImageNet에서 KL 비용 함수를 사용한 RWGAN은 WGAN 및 기울기 보정이 적용된 WGAN보다 더 높은 Inception 점수를 기록한다.
• CIFAR-10에서 DCGAN 아키텍처를 사용한 RWGAN는 훈련 종료 시 Inception 점수 2.70을 기록하여 WGAN(2.80)과 WGAN(g)(2.73)을 모두 능가한다.
• ImageNet에서 RWGAN는 Inception 점수 2.70을 기록하여 WGAN와 동일하며, 최종 에포크에서 WGAN(g)(2.73)을 약간 앞서나간다.
• 훈련 곡선 분석 결과, RWGAN는 WGAN(g)가 보여주는 높은 불안정성과는 달리 더 빠르게 수렴하고 생성기 및 판별기 손실이 더 안정적으로 유지된다.
• RWGAN에 의해 생성된 샘플 이미지는 10 에포크 내로 이미 해석 가능한 형태로 나타나, 더 빠른 학습 역학을 보여준다.
• 비대칭 클리핑과 Bregman 기반 비용 함수를 갖춘 RWGAN 프레임워크는 효과적이고 효율적인 훈련을 가능하게 하며, 안정성과 효율성을 균형 있게 유지한다.