[논문 리뷰] Learning Deep Generative Models with Doubly Stochastic MCMC

Chao Du, Jun Zhu외 1명|arXiv (Cornell University)|2015. 06. 15.

Generative Adversarial Networks and Image Synthesis참고 문헌 50인용 수 8

한 줄 요약

이 논문은 깊이 있는 생성 모델(DGMs)에서의 근사 베이지안 추론을 위한 이중 확률적 경량 최적화 MCMC(Doubly Stochastic Gradient MCMC)를 제안한다. 이 방법은 미니배치 확률적 경량 추정과 신경 적응형 중요도 샘플러(NAIS)를 결합하여 다루기 어려운 사후 기대값을 효율적으로 근사한다. 이 접근법은 다양한 DGM 아키텍처에서 밀도 추정, 생성, 결손 데이터 보정 작업에서 최신 기술 수준(SOTA)의 성능을 달성한다.

ABSTRACT

We present doubly stochastic gradient MCMC, a simple and generic method for (approximate) Bayesian inference of deep generative models (DGMs) in a collapsed continuous parameter space. At each MCMC sampling step, the algorithm randomly draws a mini-batch of data samples to estimate the gradient of log-posterior and further estimates the intractable expectation over hidden variables via a neural adaptive importance sampler, where the proposal distribution is parameterized by a deep neural network and learnt jointly. We demonstrate the effectiveness on learning various DGMs in a wide range of tasks, including density estimation, data generation and missing data imputation. Our method outperforms many state-of-the-art competitors.

연구 동기 및 목표

• 베이지안 프레임워크 하에서 깊이 있는 생성 모델(DGMs)의 다루기 어려운 사후 추론 문제를 해결하기 위해.
• 고차원 연속 매개변수 공간에서 샘플링 효율성과 경량 추정 정확도를 향상시키기 위해.
• 이산 및 연속 은닉 변수를 모두 포함하는 DGMs에서 확장 가능한 근사 베이지안 학습을 가능하게 하기 위해.
• 복잡한 사후 구조에 적응하는 일반적이고 학습 가능한 제안 분포 메커니즘을 개발하기 위해.
• 밀도 추정, 생성, 보정 작업에서 기존의 변분 및 MCMC 방법을 능가하기 위해.

제안 방법

• 미니배치 데이터 샘플링과 은닉 변수의 확률적 샘플링이라는 두 가지 확률적 요소를 가진 확률적 경량 최적화 MCMC(SGMCMC)를 사용한다.
• 은닉 변수의 제안 분포를 파arameter화하기 위해 인식 네트워크를 갖춘 신경 적응형 중요도 샘플러(NAIS)를 사용한다.
• 제안 분포와 진짜 사후 분포 사이의 포함형 KL 발산을 최소화하여 NAIS 제안 분포를 학습한다.
• 미니배치 경량 추정과 중요도 샘플링을 결합하여 연속 매개변수 공간에서 渐近적으로 편향 없는 경량 추정을 구성한다.
• 수렴을 보장하기 위해 냉각 학습률을 사용하는 SGMCMC 프레임워크(DSGNHT 등)를 적용한다.
• 제안 분포 학습을 위해 IWAE와 동일한 목적함수를 사용하여 효과적인 경량 최적화를 가능하게 한다.

실험 결과

연구 질문

• RQ1 기존의 MCMC 및 변분 방법과 비교해 복잡한 DGMs에서 더 뛰어난 확장성과 정확도를 달성할 수 있는 이중 확률적 MCMC 방법이 존재하는가?
• RQ2 고차원 DGMs에서 전통적인 깁스 샘플링을 대체하기 위해 신경 적응형 중요도 샘플러가 얼마나 효과적인가?
• RQ3 미니배치 데이터 추정과 확률적 은닉 변수 샘플링을 결합하면 편향 없고 효율적인 사후 추론이 가능한가?
• RQ4 제안된 방법이 이산 및 연속 은닉 변수를 모두 포함하는 다양한 DGM 아키텍처에 일반화 가능한가?
• RQ5 밀도 추정, 데이터 생성, 결손 데이터 보정 작업에서 성능 향상 정도는 어느 정도인가?

주요 결과

• 이진화된 MNIST 데이터셋에서 DSGNHT-NAIS는 테스트 로그우도 -86.93을 기록하여 VAE(-88.83)와 IWAE(-87.63)를 모두 능가했다.
• Omniglot 데이터셋에서 DSGNHT-NAIS는 테스트 로그우도 -106.10을 기록하여 IWAE 및 기타 강력한 기준 모델과 동등하거나 이를 초월했다.
• Caltech 101 실루엣 데이터셋에서 NADE/NADE 150를 사용한 DSGNHT-NAIS는 테스트 로그우도 -100.0을 기록하여 RWS 대비 4.3 nats 향상되었다.
• 중요도 샘플 수를 M=1에서 M=100으로 증가시켰을 때 테스트 로그우도는 -105.3에서 -100.0으로 향상되어 사후 평균 추정의 이점이 입증되었다.
• SBN/SBN 300-100-50-10에서 이 방법은 테스트 로그우도 -103.6을 달성하여 RWS 및 기타 경쟁자들을 능가하는 최신 기술 수준의 성능을 보였다.
• 신경 적응형 중요도 샘플러(NAIS)는 깁스 샘플링 대비 샘플링 효율성을 크게 향상시켜 고차원 공간에서 더 빠른 혼합을 가능하게 하였다.