[논문 리뷰] Learning Deep Energy Models: Contrastive Divergence vs. Amortized MLE

Qiang Liu, Dilin Wang|arXiv (Cornell University)|2017. 07. 04.

Generative Adversarial Networks and Image Synthesis참고 문헌 27인용 수 15

한 줄 요약

이 논문은 대trastive divergence를 Stein 변분 경사 하강법(SVGD)과 결합하여 깊이 있는 에너지 모델을 훈련하기 위한 두 가지 새로운 알고리즘인 SteinCD와 SteinGAN을 제안한다. SteinCD는 SVGD로 강화된 대비 학습을 통해 테스트 로그우도를 향상시키며, SteinGAN은 생성망을 통해 부정 샘플을 암시적으로 근사함으로써 고품질의 이미지를 생성한다. 이 두 알고리즘이 결합되어 높은 로그우도와 현실적인 샘플 생성을 동시에 달성한다.

ABSTRACT

We propose a number of new algorithms for learning deep energy models and demonstrate their properties. We show that our SteinCD performs well in term of test likelihood, while SteinGAN performs well in terms of generating realistic looking images. Our results suggest promising directions for learning better models by combining GAN-style methods with traditional energy-based learning.

연구 동기 및 목표

• 좋은 테스트 로그우도를 보이지만 고품질의 샘플을 생성하지 못하는 전통적인 대비 학습(CD)의 한계를 해결한다.
• 에너지 기반 학습과 GAN 스타일의 생성을 융합하여 에너지 스코어가 명시적으로 존재하지 않거나 일반화 능력이 떨어지는 GAN의 단점을 극복한다.
• Stein 변분 경사 하강법(SVGD)과 CD 간의 이론적 연관성을 활용하여 에너지 기반 모델을 위한 새로운 훈련 알고리즘을 설계한다.
• SteinCD와 SteinGAN을 결합하면 두 모델의 장점을 모두 취한 모델이 되며, 높은 테스트 로그우도와 현실적인 이미지 생성 성능을 동시에 달성할 수 있음을 입증한다.

제안 방법

• 훈련 중 모델 분포의 근사치를 향상시키기 위해 SVGD를 통합한 대비 학습의 변종인 SteinCD를 제안한다.
• 최대우도추정에서 전통적인 MCMC 샘플링을 대체하기 위해 신경 생성망을 사용해 부정 샘플을 암시적으로 근사하는 SteinGAN을 도입한다.
• 진정한 사후분포를 근사하기 위한 결정론적 입자 기반 최적화를 SVGD를 통해 유도함으로써 샘플 품질과 로그우도 추정을 향상시킨다.
• 훈련 안정성과 로그분할함수 정규화를 향상시키기 위해 업데이트 규칙에 할인 인자를 도입하여 최대우도추정 목표함수를 수정한다.
• 클래스 레이블을 조건으로 삼아 이미지-라벨 쌍에 대해 공동 에너지 모델을 훈련함으로써 제어 가능한 이미지 생성을 가능하게 한다.
• 정당한 비교를 위해 DCGAN과 동일한 생성망 아키텍처를 사용하지만, DCGAN보다 에너지 모델(판별망)의 파라미터 수를 줄였다.

실험 결과

연구 질문

• RQ1 SVGD와 CD 간의 이론적 연관성을 활용하여 깊이 있는 에너지 모델 훈련에서 대비 학습을 향상시킬 수 있는가?
• RQ2 생성망을 통해 에너지 기반 모델의 최대우도추정에서 부정 샘플을 효과적으로 암시적으로 근사할 수 있는가? 이는 고품질의 이미지 생성을 가능하게 하는가?
• RQ3 SteinCD와 SteinGAN은 상호보완적인 강점을 보이며, 높은 테스트 로그우도와 고품질의 샘플 생성 능력을 동시에 갖추고 있는가? 이 둘을 결합하면 성능 향상이 이루어지는가?
• RQ4 SteinGAN로 훈련된 에너지 기반 모델이 GAN과 유사한 이미지 품질을 달성할 수 있는가? 동시에 에너지 스코어와 일반화 능력의 이점을 유지하는가?
• RQ5 표준 MLE나 CD와 비교했을 때, 생성망 기반의 부정 샘플 근사 전략은 훈련 안정성과 모델 용량에 어떤 영향을 미치는가?

주요 결과

• SteinCD는 높은 테스트 로그우도를 달성하여 최신의 MLE 기반 방법과 비교해도 뛰어난 일반화 성능을 보였다.
• SteinGAN은 GAN 스타일의 방법과 경쟁 가능한 고품질의 현실적인 이미지를 생성하였다. 특히 시각적 품질과 다양성에서 뛰어난 성능을 보였다.
• SteinGAN의 인ception 스코어는 DCGAN과 유사하여 생성된 이미지의 높은 인지적 품질을 보여주었다.
• ResNet에 생성된 이미지를 학습 데이터로 사용했을 때, SteinGAN은 기준 모델보다 더 높은 분류 정확도를 달성하여 더 많은 의미 정보를 유지하고 있음을 시사했다.
• SteinCD와 SteinGAN 업데이트를 결합한 모델은 동시에 높은 테스트 로그우도와 고품질의 샘플 생성 성능을 달성하였다.
• 업데이트 규칙에 할인 인자를 도입함으로써 훈련이 안정화되고, 로그분할함수 정규화를 통해 성능 향상이 이루어졌다.