[논문 리뷰] AdaGAN: Boosting Generative Models

Ilya Tolstikhin, Sylvain Gelly외 3명|arXiv (Cornell University)|2017. 01. 09.

Generative Adversarial Networks and Image Synthesis인용 수 146

한 줄 요약

AdaGAN은 재가중 데이터에서 GAN 구성요소를 반복적으로 학습시켜 강력한 생성 모델을 구축하고, 더 많은 데이터 모드를 포용하는 가산 혼합을 형성하며 최적의 단계에서 진짜 분포로 수렴하는 부스팅 스타일의 메타 알고리즘이다. 이 알고리즘은 수렴에 대한 이론적 보장과 GAN의 누락 모드 문제를 해결하기 위한 실용성을 제공한다.

ABSTRACT

Generative Adversarial Networks (GAN) (Goodfellow et al., 2014) are an effective method for training generative models of complex data such as natural images. However, they are notoriously hard to train and can suffer from the problem of missing modes where the model is not able to produce examples in certain regions of the space. We propose an iterative procedure, called AdaGAN, where at every step we add a new component into a mixture model by running a GAN algorithm on a reweighted sample. This is inspired by boosting algorithms, where many potentially weak individual predictors are greedily aggregated to form a strong composite predictor. We prove that such an incremental procedure leads to convergence to the true distribution in a finite number of steps if each step is optimal, and convergence at an exponential rate otherwise. We also illustrate experimentally that this procedure addresses the problem of missing modes.

연구 동기 및 목표

• 가산 혼합을 사용하여 GAN의 누락 모드를 다루기 위한 원칙에 입각한 자동 방법을 제시한다.
• 재가중 데이터로 학습된 생성 구성요소를 점진적으로 추가하는 부스팅 스타일의 메타 알고리즘을 개발한다.
• f-발산(f-divergences) 하에서 혼합 접근법의 수렴에 대한 이론적 보장을 제공한다.

제안 방법

• AdaGAN을 제안한다: 재가중된 데이터 분포에서 새로운 제너레이터를 반복적으로 학습시키고, 이전 제너레이터들과 혼합 가중치 beta_t를 사용하여 혼합을 형성한다.
• 데이터 분포와 성분 분포의 가산 혼합 간의 f-발산을 최소화하는 문제로 모델링한다.
• 새로운 구성요소 Q_beta* 또는 Q_beta^†의 선택과 가중치 beta를 이끄는 상한 및 최적성 조건을 도출한다.
• 각 단계에서 완전한 최적화가 가능하다는 가정하에 혼합은 진짜 분포로 수렴하며 특정 조건에서 지수적 속도로 수렴한다.
• 재가중 샘플에 대해 GAN 스타일의 절차로 학습을 논의하고, 전체 모델은 구성요소 인덱스를 선택한 다음 해당 구성요소에서 샘플링함으로써 샘플링함을 설명한다.

실험 결과

연구 질문

• RQ1 재가중된 GAN 시퀀스가 가산 혼합으로 결합되어 진짜 데이터 분포를 근사할 수 있는가?
• RQ2 일반적인 f-발산하에서 AdaGAN 혼합의 수렴에 대한 이론적 보장은 무엇인가?
• RQ3 빠른 개선을 보장하고 재가중 데이터에의 과적합을 피하기 위해 혼합 가중치 beta_t와 재가중 스킴은 어떻게 선택해야 하는가?
• RQ4 AdaGAN은 표준 GAN에서 관찰되는 누락 모드 문제를 효과적으로 완화하는가?

주요 결과

• AdaGAN은 재가중 데이터로 학습된 제너레이터의 혼합을 만들어 이전에 놓친 모드를 커버한다.
• 이 프레임워크는 수렴 보장을 제공한다: 각 단계가 최적이면 유한한 단계에서 진짜 분포로 수렴하고, 그렇지 않으면 지수적 속도로 수렴한다.
• 상한은 새로운 구성요소를 추가하는 것이 f-발산을 어떻게 개선하는지 보여주고, 최적의 Q_beta* 또는 Q_beta^†는 특정 f-발산에 의존하지 않고 특성화될 수 있다.
• 실증적 예시들은 이 접근법이 어려운 예시를 재가중하여 누락 모드를 해결하는 것을 시사한다.
• 해당 방법은 GAN 이외의 다양한 기본 제너레이터와도 짝지어 사용할 수 있는 메타 알고리즘으로 시연되지만, 논의의 중심은 GAN에 있다.