[논문 리뷰] Unrolled Generative Adversarial Networks

Luke Metz, Ben Poole외 2명|arXiv (Cornell University)|2016. 11. 07.

Anomaly Detection Techniques and Applications인용 수 425

한 줄 요약

본 논문은 판별기의 미반복 최적화(unrolled optimization)에 비례하여 생성기의 목표를 정의함으로써 GAN 학습을 안정시키고, 모드 붕괴를 감소시키며 다양성을 향상시킨다.

ABSTRACT

We introduce a method to stabilize Generative Adversarial Networks (GANs) by defining the generator objective with respect to an unrolled optimization of the discriminator. This allows training to be adjusted between using the optimal discriminator in the generator's objective, which is ideal but infeasible in practice, and using the current value of the discriminator, which is often unstable and leads to poor solutions. We show how this technique solves the common problem of mode collapse, stabilizes training of GANs with complex recurrent generators, and increases diversity and coverage of the data distribution by the generator.

연구 동기 및 목표

• GAN 학습에서 불안정성과 모드 붕괴에 대해 동기를 부여하고 해결한다.
• 판별기 최적화를 미반복하여 대리 생성기 목표를 도입한다.
• 미반복이 표준 GAN 학습과 진짜 생성기 손실 사이를 어떻게 보간하는지 탐구한다.
• 단순한 데이터셋에서 복합한 데이터셋에 이르기까지 다양성 및 커버리지 향상을 시연한다.

제안 방법

• 생성기 G와 판별기 D를 가진 미니맥스 문제로 GAN 목표를 정의한다.
• 판별기 최적화를 K단계 미반복하여 대리 목표 f_K를 도입한다: f_K(θ_G, θ_D) = f(θ_G, θ_D^K(θ_G, θ_D)).
• 생성기 그래디언트를 미반복 최적화를 통해 역전파하여 θ_G를 업데이트한다.
• 생성기 그래디언트가 미반복된 단계들을 통해 역전파되는 동안 판별기를 일반적으로 업데이트한다.
• G의 변화에 대한 D의 반응을 포착하는 누락된 그래디언트 항을 설명하고 이것이 모드 붕괴를 어떻게 완화하는지 설명한다.
• 참고: 더 많은 미반복 단계는 목표를 진짜 생성기 손실에 더 가깝게 하지만 계산 비용은 더 높아진다.

실험 결과

연구 질문

• RQ1 판별기 최적화를 미반복하는 것이 표준 학습과 비교하여 GAN 학습을 안정시키는가?
• RQ2 미반복 GAN이 데이터셋 전반에서 모드 커버리지 향상과 모드 붕괴 감소에 기여하는가?
• RQ3 미반복 단계의 수가 학습 다이나믹스와 샘플 다양성에 어떤 영향을 미치는가?
• RQ4 더 복잡한 생성기(RNN 기반 생성기 등)로의 학습을 가능하게 하여 본래 불안정한 경우를 해결하는가?

주요 결과

• 미반복 GAN은 2D 가우시안 혼합에서 학습을 안정시켜 생성기가 질량을 분산시키고 목표 분포로 수렴하도록 한다.
• MNIST에서 미반복 GAN으로 학습된 RNN 기반 생성기는 안정적으로 남아 분포를 커버하고 붕괴하지 않는다.
• 미반복은 많은 데이터 모드를 갖는 데이터셋을 모델링할 때 이산 모드 커버리지를 향상시키고 KL 발산을 감소시킨다.
• CIFAR-10에서 더 많은 미반복 단계는 샘플 다양성을 증가시키고 재구성 및 쌍 간 거리 통계가 데이터 분포를 더 가깝게 반영하게 한다.