[논문 리뷰] Bayesian GAN

Yunus Saatchi, Andrew Gordon Wilson|arXiv (Cornell University)|2017. 05. 26.

Generative Adversarial Networks and Image Synthesis참고 문헌 8인용 수 25

한 줄 요약

이 논문은 생성 모델과 판별 모델의 가중치를 근사하기 위해 확률적 경량 히브리지 몬테카를로를 적용하는 베이지안 GAN을 제안한다. 이는 불확실성 인식 훈련을 가능하게 하며, 모수에 대한 표현력 있는 사후분포를 탐색함으로써 모드 붕괴를 방지하고, 다양한 해석 가능한 샘플을 생성하며, 특징 매칭이나 미니배치 구분 기법에 의존하지 않고 SVHN, CelebA, CIFAR-10에서 준지도 학습에서 최고 성능을 달성한다.

ABSTRACT

Generative adversarial networks (GANs) can implicitly learn rich distributions over images, audio, and data which are hard to model with an explicit likelihood. We present a practical Bayesian formulation for unsupervised and semi-supervised learning with GANs. Within this framework, we use stochastic gradient Hamiltonian Monte Carlo to marginalize the weights of the generator and discriminator networks. The resulting approach is straightforward and obtains good performance without any standard interventions such as feature matching, or mini-batch discrimination. By exploring an expressive posterior over the parameters of the generator, the Bayesian GAN avoids mode-collapse, produces interpretable and diverse candidate samples, and provides state-of-the-art quantitative results for semi-supervised learning on benchmarks including SVHN, CelebA, and CIFAR-10, outperforming DCGAN, Wasserstein GANs, and DCGAN ensembles.

연구 동기 및 목표

• 비지도 및 준지도 학습 환경에서 불확실성 인식 학습이 가능한 GAN에 대한 베이지안 공식화를 개발하는 것.
• 특징 매칭이나 미니배치 구분과 같은 수단적 조정 기법에 의존하지 않고 GAN 훈련을 개선하는 것.
• 생성자 및 판별자 모수에 대한 풍부한 사후분포 탐색을 통해 GAN에서의 모드 붕괴 문제를 해결하는 것.
• 네트워크 가중치의 사후 근사화를 통해 샘플의 다양성과 해석 가능성 향상.
• 앙상블 방법 없이 준지도 학습 벤치마크에서 최고 성능을 달성하는 것.

제안 방법

• 이 방법은 생성자 및 판별자 네트워크의 가중치에 대한 사후 추론을 수행하기 위해 확률적 경량 히브리지 몬테카를로(SGHMC)를 사용한다.
• GAN 훈련을 명시적으로 모델링된 네트워크 모수의 불확실성을 포함하는 베이지안 추론 문제로 재구성한다.
• 가중치의 전체 사후분포에 대한 근사화를 통해 강건하고 다양한 샘플 생성이 가능해진다.
• 특징 매칭이나 미니배치 구분과 같은 보조 기법이 필요하지 않다.
• 표현력 있는 사후분포를 활용해 훈련을 안정화하고 모드 붕괴를 감소시킨다.
• 아키텍처 수정 없이 베이지안 가중치 추론을 초과하는 종단 간 구현이 가능하다.

실험 결과

연구 질문

• RQ1 생성자 및 판별자 가중치에 대한 베이지안 추론이 GAN 훈련의 안정성 향상과 모드 붕괴 감소에 기여하는가?
• RQ2 네트워크 가중치의 사후 근사화가 GAN에서 더 다양한 해석 가능한 샘플 생성에 기여하는가?
• RQ3 특징 매칭이나 미니배치 구분 기법에 의존하지 않고 베이지안 GAN이 준지도 학습에서 최고 성능을 달성할 수 있는가?
• RQ4 모수에 대한 표현력 있는 사후분포가 GAN의 일반화 및 불확실성 정량화에 어떤 영향을 미치는가?
• RQ5 제안된 베이지안 프레임워크가 DCGAN, 워셔스타인 GAN 및 DCGAN 앙상블에 비해 표준 벤치마크에서 경쟁력 있거나 슈퍼리어한 성능을 보이는가?

주요 결과

• 베이지안 GAN 프레임워크는 준지도 학습에서 SVHN, CelebA, CIFAR-10에서 최고의 정량적 성능을 달성한다.
• 모든 평가된 벤치마크에서 DCGAN, 워셔스타인 GAN 및 DCGAN 앙상블을 능가한다.
• 풍부한 사후분포 탐색을 통해 가중치에 대한 모수에 대한 표현력 있는 사후분포를 탐색함으로써 모드 붕괴를 성공적으로 방지한다.
• 특징 매칭이나 미니배치 구분 기법 없이도 다양한 해석 가능한 샘플을 생성한다.
• 확률적 경량 히브리지 몬테카를로를 통해 최소한의 아키텍처 변경으로 효과적인 사후 근사가 가능하다.
• 베이지안 가중치 근사화를 통해 일반화 능력 향상과 불확실성 정량화가 향상됨을 입증한다.