[논문 리뷰] Learning Implicit Generative Models by Teaching Explicit Ones

Chao Du, Kun Xu외 3명|arXiv (Cornell University)|2018. 07. 10.

Generative Adversarial Networks and Image Synthesis참고 문헌 26인용 수 6

한 줄 요약

이 논문은 암시적 생성 모델을 훈련하기 위해 데이터 분포를 일치시키도록 밀도 추정기에게 지도를 주는 방식으로, KL-발산 최소화를 통해 모드 붕괴를 방지하는 이중 최적화 프레임워크인 학습을 통한 교육(LBT)을 제안한다. LBT와 GAN을 융합한 LBT-GAN은 동일한 설정에서 GAN, VAE, VAE-GAN을 능가하는 CIFAR10 및 CelebA에서 최고 수준의 샘플 다양성과 품질을 달성한다.

ABSTRACT

Implicit generative models are difficult to train as no explicit density functions are defined. Generative adversarial nets (GANs) present a minimax framework to train such models, which however can suffer from mode collapse due to the nature of the JS-divergence. This paper presents a learning by teaching (LBT) approach to learning implicit models, which intrinsically avoids the mode collapse problem by optimizing a KL-divergence rather than the JS-divergence in GANs. In LBT, an auxiliary density estimator is introduced to fit the implicit model's distribution while the implicit model teaches the density estimator to match the data distribution. LBT is formulated as a bilevel optimization problem, whose optimal generator matches the true data distribution. LBT can be naturally integrated with GANs to derive a hybrid LBT-GAN that enjoys complimentary benefits. Finally, we present a stochastic gradient ascent algorithm with unrolling to solve the challenging learning problems. Experimental results demonstrate the effectiveness of our method.

연구 동기 및 목표

• GAN에서 발생하는 JS-발산 최소화로 인한 지속적인 모드 붕괴 문제를 해결하기 위해.
• 모드 붕괴에 더 민감하지 않은 특성(제로 회피 성질)을 지닌 KL-발산 최소화를 통해 훈련 프레임워크를 최적화하기 위해.
• 생성자 G가 실데이터를 일치시키기 위해 밀도 추정기 E를 지도하는 이중 최적화 기법을 도입하기 위해.
• 밀도 추정기(모드 커버리지)와 판별기(샘플의 현실성)의 상호보완적 강점을 LBT-GAN을 통해 통합하기 위해.
• 모델 아키텍처 선택과 저용량 추정기의 영향에 대해 LBT-GAN의 강인성을 입증하기 위해.

제안 방법

• LBT는 훈련을 이중 최적화 문제로 설정한다: 하위 수준에서는 생성된 샘플에서 로그우도를 최대화하도록 밀도 추정기 E를 훈련하고, 상위 수준에서는 E 하에서 실데이터의 로그우도를 최대화하도록 생성자 G를 최적화한다.
• 추정기의 최적 해에 의존하는 그래디언트를 활용해 생성자를 업데이트하며, 비가역적인 그래디언트를 처리하기 위해 언롤링(unrolling)을 사용해 근사한다.
• KL-발산은 분포가 동일할 때에만 최소값을 도달하는 성질을 지녀, 데이터 모드를 누락하는 것을 내재적으로 처벌한다.
• LBT-GAN은 LBT 목적함수와 표준 GAN 판별기를 결합하여, 생성자가 E를 통해 모드 커버리지와 D를 통해 현실성을 동시에 확보할 수 있도록 한다.
• 이중 문제를 해결하기 위해 언롤링 기반의 확률적 경사상승 알고리즘을 사용하며, 수렴성과 성능을 위해 초모수 K(언롤링 스텝 수)와 M(내부 업데이트 수)를 조정한다.
• 이론적 분석을 통해 비모수 조건 하에서 G와 E가 모두 데이터 분포를 일치시키면 LBT가 진짜 데이터 분포로 수렴함을 확인했다.

실험 결과

연구 질문

• RQ1 실데이터를 일치시키도록 밀도 추정기를 지도하는 이중 최적화 프레임워크가 암시적 생성 모델에서 모드 붕괴를 방지할 수 있는가?
• RQ2 JS-발산 대신 KL-발산 최소화를 통해 더 나은 모드 커버리지와 샘플 다양성이 달성되는가?
• RQ3 저용량의 밀도 추정기조차도 생성자를 모드 붕괴를 피하도록 효과적으로 이끌 수 있는가?
• RQ4 LBT를 GAN 판별기와 융합한 LBT-GAN이 독립적인 GAN이나 VAE보다 샘플 품질과 다양성에서 향상되는가?
• RQ5 언롤링 스텝 수 K와 내부 업데이트 반복 수 M이 LBT의 훈련 안정성과 수렴성에 미치는 영향은 무엇인가?

주요 결과

• LBT-GAN은 작은 생성자와 단순한 VAE 추정기를 사용하여 CelebA에서 62.3 FID 스코어를 기록했으며, GAN(156.9), VAE(379.6), VAE-GAN(100.5)을 크게 앞서 갔다.
• CIFAR10과 CelebA에서 LBT-GAN은 정밀 조정 없이도 DCGAN보다 더 다양한 샘플을 생성했으며, 특히 CelebA 데이터셋에서 두드러진 성능을 보였다.
• 간단한 20개 노드, 이중 레이어 VAE 추정기를 사용한 LBT-GAN은 Stacked-MNIST에서 1,000개의 모드를 성공적으로 포착했고, 높은 품질의 샘플을 생성했다.
• 민감도 분석 결과, 언롤링 스텝 수 K를 5를 초과해 늘여도 수익 증가율이 감소하는 경향을 보였고, 내부 업데이트 수 M을 늘일수록 수렴 속도가 향상됨을 확인했다.
• LBT-GAN은 GAN이나 VAE-GAN보다 아키텍처 선택에 더 강인했으며, 작은 생성자조차도 강력한 성능을 유지했다.
• 이론적 분석을 통해 비모수 조건 하에서 생성자와 추정기가 모두 데이터 분포를 일치시키면 LBT가 진짜 데이터 분포로 수렴함을 확인했다.