[논문 리뷰] Variational Generative Stochastic Networks with Collaborative Shaping

Philip Bachman, Doina Precup|arXiv (Cornell University)|2017. 08. 02.

Generative Adversarial Networks and Image Synthesis참고 문헌 14인용 수 6

한 줄 요약

이 논문은 협업형 형태 조정을 갖춘 변분 생성 확률 네트워크(Variational Generative Stochastic Networks)를 제안한다. 이 방법은 변분 오토에인드어를 마르코프 체인으로 전개하고, 밀도 비율 가이드를 사용해 궤적의 이탈을 보정함으로써 생성 모델을 훈련시킨다. 이 접근법은 MNIST 및 TFD 데이터셋에서 최신 기준 성능을 달성하며, 재구성과 사후 분포 복잡도 사이의 균형을 KL 정규화를 통해 확보함으로써 로그우도와 샘플 품질 측면에서 GSN 및 GAN보다 뛰어난 성능을 발휘한다.

ABSTRACT

We develop an approach to training generative models based on unrolling a variational auto-encoder into a Markov chain, and shaping the chain's trajectories using a technique inspired by recent work in Approximate Bayesian computation. We show that the global minimizer of the resulting objective is achieved when the generative model reproduces the target distribution. To allow finer control over the behavior of the models, we add a regularization term inspired by techniques used for regularizing certain types of policy search in reinforcement learning. We present empirical results on the MNIST and TFD datasets which show that our approach offers state-of-the-art performance, both quantitatively and from a qualitative point of view.

연구 동기 및 목표

• 마르코프 체인의 정적 분포가 목표 데이터 분포와 일치하도록 보장하는 생성 모델 훈련 방법을 개발한다.
• 밀도 비율 가이드로부터의 피드백을 통합함으로써 기존 GSN 및 GAN 방법을 초월해 샘플 품질과 로그우도를 향상시킨다.
• 사후 분포의 KL 발산을 정규화함으로써 모델 복잡도를 제어하고, 사후 붕괴를 방지하며 일반화 성능을 향상시킨다.
• 데이터 다양체의 따라 국소적으로 일관된 무작위 보행과 독립적인 샘플을 효율적으로 생성할 수 있도록 한다.

제안 방법

• 모델이 생성한 샘플을 반복적으로 다시 입력함으로써 변분 오토에인드어를 마르코프 체인으로 전개한다.
• 모델이 생성한 분포와 실제 데이터 분포 간의 로그 밀도 비율을 추정하는 가이드 함수를 도입하여 궤적의 협업형 형태 조정을 가능하게 한다.
• 기존의 KL 발산 항을 재가중하여 사후 분포의 산산함을 제어하고 사후 붕괴를 방지하는 정규화된 변분 목표 함수를 사용한다.
• 시간에 따라 역전파를 적용하여 모델을 훈련시키며, 무한한 데이터 양의 극한에서 모델 분포가 목표 분포와 일치할 때 목표 함수가 최소화된다.
• 검증 세트에서 초모수를 조정한 후, 깊은 신경망을 사용해 추론 및 생성을 수행함으로써 MNIST 및 TFD 데이터셋에 이 방법을 적용한다.
• 워크백 절차를 특수 케이스로 활용하며, 안정성과 성능 향상을 위해 밀도 비율 피드백과 정규화를 추가로 적용한다.

실험 결과

연구 질문

• RQ1 밀도 비율 가이드를 활용한 협업형 형태 조정 하에서, 변분 오토에인드어로부터 구성된 마르코프 체인이 진정한 데이터 분포로 수렴할 수 있는가?
• RQ2 밀도 비율 가이드를 통합할 경우, 기존 표준 GAN 또는 GSN 대비 샘플 품질과 로그우도는 어떻게 향상되는가?
• RQ3 사후 분포의 KL 정규화가 깊이 있는 생성 모델에서 사후 붕괴를 어느 정도 방지하고 일반화 성능을 향상시키는가?
• RQ4 제안된 방법은 독립적인 샘플과 데이터 다양체를 따라 국소적으로 일관된 무작위 보행을 효율적으로 생성할 수 있는가?

주요 결과

• MNIST 데이터셋에서 제안된 모델은 λ = 24일 때 GPDE 로그우도 점수 330을 기록하여 이전 방법들을 크게 앞서며 성능을 뛰어올랐다.
• TFD 데이터셋에서 모델은 λ = 30일 때 GPDE 점수 2130을 기록하여 이전 결과인 2050과 2110을 초월했다.
• 모델은 후보자 기반 모델이 150만 번의 업데이트 후에 인식 불가능한 숫자를 생성하는 것과 달리, 훈련 전반에 걸쳐 높은 품질의 샘플을 유지했다.
• VAE의 경우 변분 하한은 계속 증가했지만 GPDE 하한은 감소하여 일반화 성능이 열악한 것으로 나타났고, 반면 제안된 모델은 두 지표를 효과적으로 균형 잡았다.
• 정규화 항은 재구성 정밀도는 略로 감소할 수 있으나, 더 산산한 사후 분포를 장려함으로써 사후 붕괴를 성공적으로 완화했다.
• 정성적 샘플 분석 결과, 특히 훈련 후반 단계에서 VAE 및 ORK 기반 모델 대비 더 현실적이고 다양한 숫자를 생성하는 것으로 나타났다.