[논문 리뷰] Stabilizing Generative Adversarial Networks: A Survey

Maciej Wiatrak, Stefano V. Albrecht외 1명|arXiv (Cornell University)|2019. 09. 30.

Model Reduction and Neural Networks참고 문헌 87인용 수 65

한 줄 요약

GAN 훈련 안정화 방법의 포괄적 조사로, 접근법을 아키텍처, 손실, 게임 이론, 다중 에이전트, 그리고 그래디언트 기반 방법으로 분류하고, 남은 문제를 개괄한다.

ABSTRACT

Generative Adversarial Networks (GANs) are a type of generative model which have received much attention due to their ability to model complex real-world data. Despite their recent successes, the process of training GANs remains challenging, suffering from instability problems such as non-convergence, vanishing or exploding gradients, and mode collapse. In recent years, a diverse set of approaches have been proposed which focus on stabilizing the GAN training procedure. The purpose of this survey is to provide a comprehensive overview of the GAN training stabilization methods which can be found in the literature. We discuss the advantages and disadvantages of each approach, offer a comparative summary, and conclude with a discussion of open problems.

연구 동기 및 목표

• GAN 안정화 방법의 전체론적 분류 체계를 제공한다.
• 각 안정화 접근법의 장점과 한계를 평가한다.
• GAN 학습 안정화를 위한 비교 인사이트와 실용적 고려사항을 요약한다.
• GAN 안정화의 향후 연구를 위한 미해결 문제와 방향을 부각시킨다.

제안 방법

• 안정화 방법을 다섯 가지 계열로 분류한다: 아키텍처, 손실 함수, 게임 이론, 다중 에이전트, 그리고 그래디언트 기반 접근법.
• 각 범주 내 대표 기술들을 설명한다(예: DCGAN, SAGAN, PROGAN; 다양한 f-발산과 IPM 손실; MNE 및 혼합전략 균형; 다생성기/판별기 구성).
• 방법들 간의 실용적 트레이드오프, 계산 비용, 및 보완성에 대해 논의한다.
• 비교 요약을 제공하고 GAN 안정화에서의 미해결 문제를 논의한다.

실험 결과

연구 질문

• RQ1 GAN 훈련에서 불안정의 주요 원인은 무엇인가?
• RQ2 어떤 안정화 전략이 존재하며 그것들이 수렴, 기울기 소실/발산, 모드 붕괴를 어떻게 다루는가?
• RQ3 아키텍처-, 손실-, 게임 이론-, 다중 에이전트-, 그리고 그래디언트 기반 안정화 방법의 트레이드오프와 한계는 무엇인가?
• RQ4 안정적이고 즉시 사용 가능한 GAN 학습을 달성하기 위해 남아 있는 미해결 문제는 무엇인가?
• RQ5 다른 안정화 접근법들이 실제로 서로 어떻게 보완하는가?

주요 결과

• 아키텍처 변형(예: DCGAN, SAGAN, BigGAN)은 안정성과 샘플 품질을 개선할 수 있지만 계산 비용이 증가할 수 있다.
• 손실 함수 기반 접근은 (f-다발발산, Wasserstein 같은 IPM, MMD) 훈련 역학을 개선하지만 종종 특정 제약과 튜닝을 필요로 한다.
• 게임 이론 및 다중 에이전트 형태는 이론적 수렴 통찰을 제공하고 모드 붕괴에 도움을 줄 수 있지만 가정과 비용에 의해 실용적 적용이 제한된다.
• 그래디언트 기반 최적화 정제는 비볼록 역학을 다루지만 적용에 제한이 있거나 추가 메커니즘이 필요하다.
• BigGAN은 여러 측면에서 강력한 기준선이지만 높은 계산 비용으로 안정성 향상과 자원 간의 트레이드오프를 보여준다.