[논문 리뷰] On the Limitations of First-Order Approximation in GAN Dynamics

Jerry Li, Aleksander Mądry외 2명|arXiv (Cornell University)|2017. 06. 29.

Generative Adversarial Networks and Image Synthesis참고 문헌 8인용 수 33

한 줄 요약

이 논문은 간단한 파라미터 모델을 사용하여 GAN 학습 동역학을 조사하고, 최적의 디스crimิน레이터를 사용할 경우 수렴하지만, 실제에서 일반적으로 사용되는 디스crimิน레이터 업데이트의 일阶 근사화는 불안정성과 모드 붕괴를 유도한다는 것을 보여준다. 주요 기여는 일阶 근사화가 GAN 학습 과제의 근본 원인임을 이론적으로 입증한 것이다.

ABSTRACT

While Generative Adversarial Networks (GANs) have demonstrated promising performance on multiple vision tasks, their learning dynamics are not yet well understood, both in theory and in practice. To address this issue, we study GAN dynamics in a simple yet rich parametric model that exhibits several of the common problematic convergence behaviors such as vanishing gradients, mode collapse, and diverging or oscillatory behavior. In spite of the non-convex nature of our model, we are able to perform a rigorous theoretical analysis of its convergence behavior. Our analysis reveals an interesting dichotomy: a GAN with an optimal discriminator provably converges, while first order approximations of the discriminator steps lead to unstable GAN dynamics and mode collapse. Our result suggests that using first order discriminator steps (the de-facto standard in most existing GAN setups) might be one of the factors that makes GAN training challenging in practice.

연구 동기 및 목표

• GAN 학습 동역학의 이론적 기반, 특히 불안정성과 모드 붕괴를 이해하기 위해.
• 통제된 파라미터 GAN 모델 내에서 디스crimิน레이터 업데이트의 일阶 근사화의 역할을 분석하기 위해.
• 최적의 디스crimิน레이터 업데이트가 수렴하는가를 확인하고, 표준 일阶 방법과 대비하기 위해.
• 실제로는 성공한 GAN 학습의 실용적 어려움에 대한 이론적 근거를 제공하기 위해.

제안 방법

• 저자들은 허위 기울기와 진동 행동과 같은 핵심 실패 모드를 포괄하는 단순하면서도 표현력 있는 파라미터 GAN 모델을 설계하였다.
• 최적의 디스crimิน레이터에 대한 폐쇄형 해를 사용하여 GAN 동역학을 분석함으로써 엄밀한 이론적 연구를 가능하게 하였다.
• 이 모델은 최적의 디스crimิน레이터 피드백 하에서 생성기의 업데이트를 정확하게 계산할 수 있어 근사 오차를 피할 수 있었다.
• 최적의 디스crimิน레이터 업데이트와 일阶 근사화의 두 경우에 대해 이론적 수렴 분석을 수행하였다.
• 최적의 업데이트와 일阶 근사화 업데이트 간의 비교는 후자의 근본적인 불안정성을 드러내었다.

실험 결과

연구 질문

• RQ1 제안된 파라미터 모델 하에서 최적의 디스crimิน레이터를 갖는 GAN은 진정한 데이터 분포로 수렴하는가?
• RQ2 디스crimิน레이터 업데이트의 일阶 근사화는 GAN 학습 안정성에 어떤 영향을 미치는가?
• RQ3 왜 표준 GAN 학습 절차에서 일阶 업데이트를 사용할 경우 모드 붕괴가 발생하는가?
• RQ4 최적의 업데이트와 일阶 업데이트 간의 이론적 역학적 차이는 무엇인가?

주요 결과

• 제안된 모델 하에서 최적의 디스crimิน레이터를 갖는 GAN은 진정한 데이터 분포로 수렴하여 안정적인 학습 동역학을 보였다.
• 디스crimิน레이터 업데이트의 일阶 근사화는 불안정한 동역학, 특히 모드 붕괴와 진동을 유도한다.
• 불안정성은 모델의 비볼록성 때문이 아니라, 일阶 근사화의 사용 때문임이 특별히 밝혀졌다.
• 이론적 분석을 통해 일阶 업데이트가 최적 업데이트의 수렴 성질을 유지하지 못함을 증명하였다.