[논문 리뷰] Stackelberg GAN: Towards Provable Minimax Equilibrium via Multi-Generator Architectures

Hongyang Zhang, Susu Xu외 4명|arXiv (Cornell University)|2018. 11. 19.

Advanced Neural Network Applications참고 문헌 20인용 수 18

한 줄 요약

이 논문은 스택엘베르크 게임 이론에 영감을 얻어 다수의 생성기(팔종)가 단일 판별기(리더)와 경쟁하는 다중 생성기 GAN 아키텍처인 스택엘베르크 GAN을 제안한다. 일반적인 최소최대 문제에 대해 셰플리-폴크만 보조정리의 새로운 응용을 통해, 이 방법은 최소최대 이중성 간격을 $\epsilon$으로 증명 가능하게 줄이며 $\widetilde{\mathcal{O}}(1/\epsilon)$개의 생성기를 사용한다—기존의 $\widetilde{\mathcal{O}}(1/\epsilon^2)$ bound를 향상시키며, 벤치마크 데이터셋에서 14.61%의 FID 향상을 달성한다.

ABSTRACT

We study the problem of alleviating the instability issue in the GAN training procedure via new architecture design. The discrepancy between the minimax and maximin objective values could serve as a proxy for the difficulties that the alternating gradient descent encounters in the optimization of GANs. In this work, we give new results on the benefits of multi-generator architecture of GANs. We show that the minimax gap shrinks to $ε$ as the number of generators increases with rate $\widetilde{O}(1/ε)$. This improves over the best-known result of $\widetilde{O}(1/ε^2)$. At the core of our techniques is a novel application of Shapley-Folkman lemma to the generic minimax problem, where in the literature the technique was only known to work when the objective function is restricted to the Lagrangian function of a constraint optimization problem. Our proposed Stackelberg GAN performs well experimentally in both synthetic and real-world datasets, improving Fréchet Inception Distance by $14.61\%$ over the previous multi-generator GANs on the benchmark datasets.

연구 동기 및 목표

• 최소최대 목적함수와 최대최소 목적함수 값 간의 큰 격리로 인한 GAN 학습의 불안정성을 해결하기 위해.
• 다중 생성기 앙상블을 통해 최소최대 이중성 간격을 줄이는 증명 가능한 안정성 있는 GAN 아키텍처를 설계하기 위해.
• 무한한 모델 용량이나 공유 파라미터를 가정하지 않고 다중 생성기 GAN에 대한 이론적 보장을 제공하기 위해.
• 기존의 다중 생성기 GAN인 MIX+GAN과 MGAN보다 학습 안정성과 생성 성능을 향상시키기 위해.
• 스택엘베르크 게임 이론과 GAN 아키텍처 설계 간의 공식적 연결을 수립하기 위해.

제안 방법

• 다수의 생성기(팔종)가 단일 판별기(리더)와 함께 최적화하는 스택엘베르크 GAN 프레임워크를 도입하며, 이는 게임 이론에서의 스택엘베르크 리더십 모델에 영감을 받는다.
• 일반적인 최소최대 문제에 대해 셰플리-폴크만 보조정리의 새로운 확장 응용을 통해, 비볼록 설정에서 최소최대 간격의 이론적 분석을 가능하게 한다.
• 학습된 또는 정규화된 가중치 없이 동일한 가중치로 생성기 손실을 앙상블 처리하며, 개별 생성기의 용량에 의해 암묵적인 스케일링을 활용한다.
• 교대 경사하강법을 사용한 표준 GAN 학습을 수행하지만, 다수의 생성기를 동시에 학습시켜 분포 커버리지를 향상시킨다.
• 각 생성기가 독립적으로 샘플링하고, 판별기가 모든 생성기의 집합적 출력을 평가하는 학습 프로토콜을 설계한다.
• ReLU, Leaky ReLU, Sigmoid/Tanh 활성화 함수를 사용한 표준 아키텍처(예: 완전연결층, 역전치 합성곱)를 사용하며, Adam 옵timizer로 학습한다.

실험 결과

연구 질문

• RQ1 기존 방법보다 다중 생성기 GAN 아키텍처가 최소최대 이중성 간격을 더 효율적으로 줄일 수 있는가?
• RQ2 공유 파라미터나 무한 용량 가정이 없는 경우 다중 생성기 GAN의 수렴성과 안정성에 영향을 미치는가?
• RQ3 셰플리-폴크만 보조정리는 라그랑주 형태를 초월한 일반적인 최소최대 문제에 확장되어 증명 가능한 보장을 제공할 수 있는가?
• RQ4 생성기 수가 비볼록 GAN 학습에서 최소최대 간격에 어떤 영향을 미치는가?
• RQ5 추가 정규화나 학습된 앙상블 가중치 없이도 제안된 아키텍처가 이전의 다중 생성기 GAN보다 더 낮은 FID 점수를 달성할 수 있는가?

주요 결과

• 스택엘베르크 GAN에서 최소최대 이중성 간격은 $\widetilde{\mathcal{O}}(1/\epsilon)$개의 생성기를 사용할 때 $\epsilon$으로 수렴하며, 이는 기존의 $\widetilde{\mathcal{O}}(1/\epsilon^2)$ bound를 향상시킨다.
• 생성기 용량에 대한 추가 가정이 있을 경우, $\widetilde{\mathcal{O}}(1/\epsilon)$개의 생성기를 사용해 $\epsilon$-근사 균형을 달성하며, 더 낮은 샘플 복잡도를 보여준다.
• 제안된 방법은 CIFAR-10 및 패션-MNIST를 포함한 다양한 벤치마크 데이터셋에서 이전의 다중 생성기 GAN보다 Fréchet Inception Distance(FID)를 14.61% 향상시킨다.
• 합성 및 실세계 데이터셋에서의 실험 결과, 스택엘베르크 GAN은 더 안정적인 학습과 다양하고 고품질의 샘플을 생성하며, 각 생성기가 고유한 샘플을 생성하는 것으로 나타났다.
• 이론적 분석은 공유 파라미터, 무한 용량, 또는 라그랑주 형태의 목적함수를 요구하지 않아, 일반적인 GAN, 워셔스타인 GAN 및 기타 변형에 적용 가능하다.
• MNIST, 패션-MNIST, CIFAR-10, Tiny ImageNet에서의 실험적 검증을 통해 다양한 데이터 분포에서 일관된 성능 향상을 입증하였다.