[논문 리뷰] On Convergence and Stability of GANs

Naveen Kodali, Jacob Abernethy외 2명|arXiv (Cornell University)|2017. 05. 19.

Generative Adversarial Networks and Image Synthesis참고 문헌 6인용 수 241

한 줄 요약

이 논문은 GAN 훈련을 regret minimization으로 재구성하고, 모드 붕괴로 이어지는 비볼록 역학을 분석하며, DRAGAN을 도입한다. DRAGAN은 다양한 아키텍처와 목표 함수에서 안정성과 모델링 성능을 향상시키는 gradient-penalty 방법이다.

ABSTRACT

We propose studying GAN training dynamics as regret minimization, which is in contrast to the popular view that there is consistent minimization of a divergence between real and generated distributions. We analyze the convergence of GAN training from this new point of view to understand why mode collapse happens. We hypothesize the existence of undesirable local equilibria in this non-convex game to be responsible for mode collapse. We observe that these local equilibria often exhibit sharp gradients of the discriminator function around some real data points. We demonstrate that these degenerate local equilibria can be avoided with a gradient penalty scheme called DRAGAN. We show that DRAGAN enables faster training, achieves improved stability with fewer mode collapses, and leads to generator networks with better modeling performance across a variety of architectures and objective functions.

연구 동기 및 목표

• GAN 훈련 역학을 divergence minimization의 대안으로 간주하는 regret-minimization 관점을 제안한다.
• 볼록-궁극(convex-concave) 설정과 비볼록 GAN 설정에서의 수렴을 분석하고 모드 붕괴의 원인을 식별한다.
• 실제 데이터 포인트 주위의 급격한 판별자 기울기가 모드 붕괴의 원인으로 작용함을 특징으로 기술한다.
• DRAGAN을 도입하여 지역적으로 실데이터 주위의 기울기를 제한하는 로컬 그라디언트 페널티 방법으로 모드 붕괴를 완화하고 안정성과 모델링 성능을 개선한다.

제안 방법

• GAN 훈련을 제너레이터와 판별자 모두에 대해 노-레그레트 알고리즘이 있는 반복 게임으로 모델링한다.
• 교대 그래디언트 업데이트를 사용하는 GAN 훈련과 regret minimization 사이의 이론적 연결을 제공한다.
• 비볼록 게임 역학을 분석하여 가능성 있는 나쁜 로컬 평형점과 모드 붕괴를 설명한다.
• 실제 데이터 포인트 주위의 급격한 판별자 기울기를 모드 붕괴의 징후로 식별한다.
• DRAGAN: 판별자 기울기를 실제 데이터 주위에서 로컬로 제약하는 그라디언트 페널티 체계를 제안하여 안정성을 높인다.

실험 결과

연구 질문

• RQ1 GAN 훈련 역학을 regret minimization으로 분석하여 수렴 특성을 설명할 수 있는가?
• RQ2 비볼록 GAN 게임에서 모드 붕괴의 기제는 무엇이며 이를 어떻게 완화할 수 있는가?
• RQ3 실제 데이터 포인트 주위에서 판별자 기울기를 로컬로 제약하면 모형화 성능을 해치지 않으면서 불리한 로컬 평형점을 방지할 수 있는가?
• RQ4 DRAGAN이 다양한 아키텍처와 목적 함수에서 다른 그라디언트 페널티 접근법과 비교하여 어떤 차이가 있는가?

주요 결과

• GAN을 regret-minimizing 게임으로 보는 것은 판별자가 매 단계에서 최적일 필요 없이 수렴 인사이트를 제공한다.
• 모드 붕괴는 비볼록 GAN 게임에서의 바람직하지 않은 로컬 평형점과 실제 데이터 근처의 급격한 판별자 기울기와 연관된다.
• DRAGAN의 그라디언트 페널티는 모드 붕괴를 감소시키고 다양한 아키텍처에서 학습 안정성과 모델링 성능을 향상시킨다.
• DRAGAN은 학습 속도를 유지하면서 WGAN-GP와 같은 최첨단 그라디언트 페널티 방법과 비교하여 안정성을 달성하거나 능가한다.
• 실데이터 주위의 로컬 그라디언트 페널티가 효과적임이 입증되며, 다양한 GAN 목표에 걸쳐 더 넓은 적용 가능성을 가진다.