[논문 리뷰] Prescribed Generative Adversarial Networks

Adji Bousso Dieng, Francisco J. R. Ruiz외 2명|arXiv (Cornell University)|2019. 10. 09.

Generative Adversarial Networks and Image Synthesis참고 문헌 67인용 수 47

한 줄 요약

PresGANs는 생성기 출력에 노이즈를 추가하고 엔트로피 정규화된 대립적 손실을 사용해 모드 붕괴를 방지하고 GAN의 해석 가능한 예측 로그 가능도 평가를 가능하게 한다.

ABSTRACT

Generative adversarial networks (GANs) are a powerful approach to unsupervised learning. They have achieved state-of-the-art performance in the image domain. However, GANs are limited in two ways. They often learn distributions with low support---a phenomenon known as mode collapse---and they do not guarantee the existence of a probability density, which makes evaluating generalization using predictive log-likelihood impossible. In this paper, we develop the prescribed GAN (PresGAN) to address these shortcomings. PresGANs add noise to the output of a density network and optimize an entropy-regularized adversarial loss. The added noise renders tractable approximations of the predictive log-likelihood and stabilizes the training procedure. The entropy regularizer encourages PresGANs to capture all the modes of the data distribution. Fitting PresGANs involves computing the intractable gradients of the entropy regularization term; PresGANs sidestep this intractability using unbiased stochastic estimates. We evaluate PresGANs on several datasets and found they mitigate mode collapse and generate samples with high perceptual quality. We further found that PresGANs reduce the gap in performance in terms of predictive log-likelihood between traditional GANs and variational autoencoders (VAEs).

연구 동기 및 목표

• GAN에서 모드 붕괴를 해소하고 엔트로피 규칙화를 통해 고엔트로피 생성기 분포를 촉진한다.
• GAN을 위한 정의된 생성 밀도를 통해 예측 로그 가능도를 tractable하게 추정하는 것을 가능하게 한다.
• PresGANs를 효과적으로 학습시키기 위해 엔트로피 기울기에 대한 편향되지 않은 확률적 경사 추정기를 개발한다.
• 데이터셋 전반에서 모드 커버리지와 샘플 품질의 실증적 개선을 보여준다.

제안 방법

• 생성 과정을 p_theta(x)로 정의하고 무한 혼합으로서 Gaussian z와 Gaussian x|z를 사용하여 잘 정의된 밀도를 보장한다.
• GAN 목표에 엔트로피 정규화 항을 도입한다: L_PresGAN = L_GAN - lambda * H(p_theta(x)).
• x를 sigma로 섭동시켜 생성기 출력을 노이즈를 추가하여 p_theta(x)의 존재를 보장하고 엔트로피 계산을 가능하게 한다.
• 제자 샘플에 대해 재매개화와 Hamiltonian Monte Carlo (HMC)를 사용하여 엔트로피 기울기의 편향되지 않은 몬테카를로 추정치를 계산한다.
• 재매개화와 몿테카를로 평균을 통해 엔트로피 기울기 항을 포함한 theta에 대한 편향되지 않은 경사 추정치를 형식화한다.
• 표준 GAN에서와 같이 판별기 φ를 업데이트하되 훈련의 안정화를 위해 실제 샘플에 데이터 노이즈를 일관되게 적용한다.

실험 결과

연구 질문

• RQ1 Additive 출력 노이즈를 통한 엔트로피 정규화가 GAN의 모드 붕괴를 방지할 수 있는가?
• RQ2 내재된 생성기를 잘 정의된 밀도로 대체하여 GAN에 대해 tractable한 예측 로그 가능도를 얻을 수 있는가?
• RQ3 PresGANs에서 엔트로피 항의 기울기를 효과적으로 추정하여 모델을 학습시키려면 어떻게 해야 하는가?
• RQ4 PresGANs가 지각 품질을 해치지 않으면서 모드 커버리지와 샘플 다양성을 개선하는가?

주요 결과

• PresGANs는 모드 붕괴를 완화하고 합성 및 실제 데이터 실험에서 다중 데이터 모드를 복원한다.
• 생성된 샘플은 데이터 분포의 다양한 커버리지를 유지하면서 높은 지각 품질을 달성한다.
• PresGANs를 사용할 때 GAN과 VAE 간의 예측 로그 가능도 차이가 감소하여 일반화 평가가 향상되었음을 시사한다.
• 엔트로피 정규화된 목표가 중요도 샘플링을 통한 로그 가능도 근사화를 가능하게 한다.
• 재매개화 및 HMC 기반 사후 샘플를 사용하여 엔트로피 항에 대한 편향되지 않은 경사 추정치를 얻을 수 있다.
• 실제 데이터의 노이즈와 생성기의 제어된 분산으로 학습 안정성을 높인다.