[논문 리뷰] Convergence Problems with Generative Adversarial Networks (GANs)

Samuel A. Barnett|arXiv (Cornell University)|2018. 06. 29.

Generative Adversarial Networks and Image Synthesis참고 문헌 29인용 수 44

한 줄 요약

이 논문은 수학적 관점에서 GAN의 수렴 문제를 분석하고, 원래 형식의 한계를 자세히 설명하며, 안정성 향상을 위한 위상적(topological) 및 게임 이론적 접근을 탐구한다.

ABSTRACT

Generative adversarial networks (GANs) are a novel approach to generative modelling, a task whose goal it is to learn a distribution of real data points. They have often proved difficult to train: GANs are unlike many techniques in machine learning, in that they are best described as a two-player game between a discriminator and generator. This has yielded both unreliability in the training process, and a general lack of understanding as to how GANs converge, and if so, to what. The purpose of this dissertation is to provide an account of the theory of GANs suitable for the mathematician, highlighting both positive and negative results. This involves identifying the problems when training GANs, and how topological and game-theoretic perspectives of GANs have contributed to our understanding and improved our techniques in recent years.

연구 동기 및 목표

• 생성기와 판별기가 두 선수인 게임으로서 GAN과 그 학습을 설명한다.
• MM-GAN에서의 개선 실패, 모드 붕괴 등 수렴 문제를 식별한다.
• 훈련 목표에서의 발산( divergences )를 소개하고 그 역할을 분석한다.
• 수렴과 안정성을 개선하기 위해 토폴로지 및 게임 이론적 프레임워크를 탐구한다.

제안 방법

• 이상화된 미니맥스 GAN(IMM-GAN) 목표를 형식화하고 최적의 판별기를 증명한다.
• IMM-GAN이 p_r과 p_G 사이의 JS 발산을 최소화하는 것과 동등하다는 것을 보인다.
• GAN 훈련과 관련된 특성과 함께 발산(KL, JS)을 논의한다.
• 신경망 매개변수를 갖는 실용적 버전으로 MM-GAN을 도입한다.
• 수렴 문제(개선 실패, 그래디언트 소실, 모드 붕괴)를 검토하고 해석을 제시한다.

실험 결과

연구 질문

• RQ1 IMM-GAN 목표가 p_r = p_G로의 수렴을 보장하는 조건은 무엇인가?
• RQ2 KL 및 JS와 같은 발산이 GAN 훈련 역학 및 수렴과 어떤 관련이 있는가?
• RQ3 MM-GAN에서 모드 붕괴와 같은 수렴 문제의 원인과 나타남은 무엇인가?
• RQ4 대체 발산이나 지표(예: Wasserstein)가 훈련 안정성 및 수렴을 개선할 수 있는가?
• RQ5 GAN 훈련에서 다중 균형 및 혼합 전략을 설명할 수 있는 게임 이론적 통찰은 무엇인가?

주요 결과

• 최적의 판별기가 사용되면 IMM-GAN 목표는 p_r = p_G로 수렴하고 최소값은 -log 4이다.
• JS 발산은 IMM-GAN 목표를 p_r과 p_G 사이의 차이의 척도에 연결하여 수렴 분석을 이끈다.
• 그래디언트 기반 훈련은 판별기가 과적합할 때 특히 그래디언트 소실과 모드 붕괴를 겪을 수 있다.
• Wasserstein 기반 및 IPM 접근법은 JS 기반 수렴 문제를 다룰 수 있는 대안적 시각을 제공한다.
• GAN의 균형 존재가 실제로 그 균형으로 수렴함을 보장하지 않으며, 더 넓은 게임 이론적 고려를 촉진한다.