[논문 리뷰] An Online Learning Approach to Generative Adversarial Networks

Paulina Grnarova, Kfir Y. Levy외 3명|arXiv (Cornell University)|2017. 06. 10.

Generative Adversarial Networks and Image Synthesis참고 문헌 4인용 수 15

한 줄 요약

이 논문은 생성적 적대적 네트워크(GAN)를 훈련시키기 위해 온라인 학습 기반 방법인 Chekhov GAN을 제안한다. 이는 생성자와 판별자를 제로섬 게임의 플레이어로 모델링하며, 온라인 학습에서의 회귀 최소화를 활용해 반순환 GAN 아키텍처(일반화된 생성자, 한 층의 판별자)에서 혼합 전략 균형에 증명 가능하게 수렴한다. 또한 이 접근법을 심층 아키텍처에 적용하기 위해 실용적인 히우리스틱을 도입하여 훈련 안정성과 샘플 다양성을 향상시키며, 시각적 품질을 손상시키지 않는다.

ABSTRACT

We consider the problem of training generative models with a Generative Adversarial Network (GAN). Although GANs can accurately model complex distributions, they are known to be difficult to train due to instabilities caused by a difficult minimax optimization problem. In this paper, we view the problem of training GANs as finding a mixed strategy in a zero-sum game. Building on ideas from online learning we propose a novel training method named Chekhov GAN 1 . On the theory side, we show that our method provably converges to an equilibrium for semi-shallow GAN architectures, i.e. architectures where the discriminator is a one layer network and the generator is arbitrary. On the practical side, we develop an efficient heuristic guided by our theoretical results, which we apply to commonly used deep GAN architectures. On several real world tasks our approach exhibits improved stability and performance compared to standard GAN training.

연구 동기 및 목표

• 최소화 최적화에서의 번갈아가는 기울기 하강법으로 인한 표준 GAN 훈련의 불안정성 및 수렴 불가 문제를 해결하기 위해.
• 비볼록-볼록 설정에서 특히 안정적인 수렴을 제공할 수 있는 온라인 학습에서의 혼합 전략이 GAN 훈련에 어떻게 기여할 수 있는지 탐색하기 위해.
• 모드 드롭아웃을 줄이고 샘플 다양성을 향상시키며, 이론적으로 탄탄하면서도 실용적인 GAN 훈련 방법을 개발하기 위해.
• 이론적 수렴 보장을 반순환 아키텍처에서 더 복잡하고 일반적으로 사용되는 심층 GAN 아키텍처로 확장하기 위해 이론에 기반한 히우리스틱을 활용하기 위해.
• 실제 세계 데이터셋에서 제안된 방법이 표준 GAN 훈련에 비해 훈련 안정성과 샘플 품질 측면에서 뛰어나다는 것을 경험적으로 입증하기 위해.

제안 방법

• 생성자와 판별자를 두 명의 플레이어로 하는 제로섬 게임으로 GAN 훈련을 모델링하며, 혼합 전략 균형을 찾는 것이 목표이다.
• 온라인 학습에서의 회귀 최소화 알고리즘을 생성자 및 판별자 플레이어 양쪽에 적용한다.
• 시간에 따라 회귀를 최소화하기 위해 적응형 학습률을 사용하는 온라인 기울기 하강법을 사용하여 상관 균형으로 수렴함을 보장한다.
• 각 구성 요소가 필요하고 반복적으로 조립되는 '체호프의 총' 원칙에서 영감을 얻어, 새로운 알고리즘인 Chekhov GAN을 도입한다.
• 반순환 GAN 아키텍처(한 층의 판별자, 임의의 생성자)에 대해 반볼록 게임 분석을 통해 이론적 보장을 도출한다.
• 이론적 통찰에 기반한 실용적인 히우리스틱을 개발하여 심층 GAN 아키텍처에 이 방법을 적용함으로써 안정성과 다양성을 유지한다.

실험 결과

연구 질문

• RQ1 회귀 최소화를 갖는 온라인 학습 방법이 반순환 GAN 아키텍처에서 증명 가능한 균형 수렴에 사용될 수 있는가?
• RQ2 표준 GAN에서 번갈아가는 기울기 하강법과 비교해, 온라인 학습에서 혼합 전략을 사용할 경우 훈련 안정성이 향상되는가?
• RQ3 반순환 GAN 아키텍처에 대한 이론적 수렴 보장이 실용적 히우리스틱을 통해 더 복잡하고 실제 사용되는 심층 GAN 아키텍처로 확장될 수 있는가?
• RQ4 제안된 방법은 표준 GAN 훈련에 비해 모드 드롭아웃과 샘플 다양성 측면에서 어떻게 다른가?
• RQ5 이 방법의 경험적 영향은 훈련 안정성과 생성 샘플의 시각적 품질에 어떤가?

주요 결과

• 이론적 분석을 통해 Chekhov GAN이 비볼록-볼록일지라도 반순환 GAN 아키텍처에서 혼합 전략 균형으로 증명 가능하게 수렴함을 입증한다.
• 기준 GAN 훈련에 비해 벤치마크 데이터셋에서 훈련 안정성이 향상되고 모드 드롭아웃이 감소함을 확인하였다.
• 경험 결과로, Chekhov GAN의 히우리스틱 버전은 높은 시각적 품질을 유지하면서 더 다양한 샘플을 생성함을 보였다.
• 생성자 및 판별자 양쪽의 회귀 한계가 O(1/√T)의 속도로 0으로 수렴함을 입증하여 근사 균형으로의 수렴을 보장한다.
• CIFAR-10 및 CelebA를 포함한 여러 실제 세계 데이터셋에서 뚜렷한 향상이 이루어진 훈련 역학을 보이며, 뛰어난 성능을 보였다.