[논문 리뷰] From GAN to WGAN

Lilian Weng|arXiv (Cornell University)|2019. 04. 18.

Generative Adversarial Networks and Image Synthesis인용 수 23

한 줄 요약

이 논문은 원래 GAN의 젠슨-쇼너 클리브리지 발산을 워샤르스타인 거리로 대체하여 학습을 안정화하는 워샤르스타인 GAN(WGAN)을 소개한다. 실수 및 생성된 분포가 겹치지 않을 경우에도 안정적인 학습을 가능하게 하기 위해, 가중치 클리핑을 통해 비평가(critic)의 리프시츠 연속성을 강제하고 이중형 워샤르스타인 손실을 사용함으로써 더 매끄럽고 의미 있는 기울기 신호를 제공한다. 이는 학습 안정성과 수렴성 향상으로 이어진다.

ABSTRACT

This paper explains the math behind a generative adversarial network (GAN) model and why it is hard to be trained. Wasserstein GAN is intended to improve GANs' training by adopting a smooth metric for measuring the distance between two probability distributions.

연구 동기 및 목표

• 표준 GAN의 학습 불안정성과 수렴 불가 문제를 해결하기 위해, JS 및 KL과 같은 부드럽지 않은 발산을 사용하는 것이 기여하는 바를 다루기 위해.
• 분포 간 차이를 더 의미 있고 연속적인 측정 방식을 제공하는 워샤르스타인 거리 기반의 학습 목표를 제안하기 위해.
• 실수 및 생성된 데이터 분포 간에 최소 또는 완전한 겹침이 없을 경우에도 안정적인 학습을 가능하게 하기 위해.
• 워샤르스타인 거리가 JS 발산과 달리 분포가 분리되어 있을 경우에도 매끄럽고 미분 가능하다는 것을 입증하기 위해.
• 딥러닝 환경에서 워샤르스타인 거리의 리프시츠 제약 조건을 강제하기 위한 실용적인 방법—가중치 클리핑—을 제안하기 위해.

제안 방법

• 기존 GAN의 손실 함수를 실수 데이터 분포 $p_r$ 와 생성기의 분포 $p_g$ 사이의 워샤르스타인 거리 $W(p_r, p_g) = \sup_{\|f\|_L \leq K} \mathbb{E}_{x\sim p_r}[f(x)] - \mathbb{E}_{x\sim p_g}[f(x)]$ 로 대체한다.
• 카탄로비치-루빈스타인 이중성에 의해 워샤르스타인 거리를 K-리프시츠 연속 함수 $f_w$ 에 대한 다항 최적화 문제로 변환한다.
• 각 기울기 업데이트 후에 비평가 네트워크의 가중치를 고정된 범위 $[-c, c]$ 내로 클리핑하여 K-리프시츠 조건을 강제한다.
• 기존 GAN의 시그모이드 기반의 분류기 출력을 제거하고, 워샤르스타인 거리를 직접 추정하는 비평가를 도입함으로써 로그 확률이 필요 없어진다.
• 아담과 같은 모멘텀 기반 최적화기와는 달리, RMSProp 최적화기를 비평가에 적용하여 학습 안정성을 향상시킨다.
• 비평가를 이중 분류기에서 워샤르스타인 거리를 추정하는 특징 추출기로 전환함으로써, 목적함수를 분류에서 거리 측정 학습으로 이동시킨다.

실험 결과

연구 질문

• RQ1 표준 GAN이 왜 학습 불안정성과 모드 붕괴를 겪는지, 그리고 발산 측정 방법의 선택이 이에 기여하는 방식은 무엇인가?
• RQ2 분포가 분리되어 있을 경우, 워샤르스타인 거리가 JS 및 KL 발산과 어떻게 비교되는가?
• RQ3 워샤르스타인 거리를 추정하도록 훈련된 비평가 네트워크가, 표준 분류기보다 더 안정적이고 정보가 풍부한 기울기 신호를 생성기에게 제공할 수 있는가?
• RQ4 딥 네트워크 환경에서 워샤르스타인 거리의 리프시츠 연속성 제약 조건을 강제하기 위한 실용적인 방법은 무엇인가?
• RQ5 GAN 손실을 워샤르스타인 기반 목표로 대체하면 학습 수렴성과 샘플 품질 향상에 기여하는가?

주요 결과

• 워샤르스타인 거리는 실수 및 생성된 분포가 분리되어 있을 경우에도 매끄럽고 연속적이며 의미 있는 분포 간 차이 측정을 제공하지만, JS 발산은 정의되지 않거나 불연속이 될 수 있다.
• 비평가 네트워크에 대한 K-리프시츠 연속성을 강제하기 위해 가중치 클리핑을 사용함으로써 WGAN의 학습이 안정화되었지만, 저자들은 이 방법이 최적은 아님을 인정한다.
• 이중형 워샤르스타인 거리에서 유도된 WGAN 손실 함수는 샘플 품질과 더 밀접하게 관련되어 있으며, 학습 중에 안정적이고 기울기가 소멸하지 않는 기울기 신호를 제공한다.
• 실험 결과에 따르면, 비중첩 데이터 분포가 존재하는 상황에서 WGAN는 표준 GAN보다 더 뛰어난 학습 안정성과 수렴성을 보였다.
• WGAN의 비평자는 더 이상 확률을 출력하지 않고 워샤르스타인 거리를 추정하며, 이는 생성 샘플의 실제 품질과 더 잘 상관관계를 이룬다.
• 논문은 가중치 클리핑이 작동하지만, 리프시츠 제약 조건을 강제하기 위한 열악한 방법이며, 향후 연구에서는 기울기 페널티와 같은 대안을 탐색해야 한다고 지적한다.