[논문 리뷰] Monte Carlo Variational Auto-Encoders

Achille Thin, Nikita Kotelevskii외 4명|arXiv (Cornell University)|2021. 06. 30.

Generative Adversarial Networks and Image Synthesis인용 수 10

한 줄 요약

이 논문은 방향성 없는 MCMC 전이—특히 랭지에빈 동역학을 사용하여, 증명 가능한 추론 하한(ELBO)을 강화하는 몬테카를로 변분 오토인코더(MCVAE)를 제안한다. 이는 분석적 중요도 샘플링(AIS)과 순차적 중요도 샘플링(SIS)을 활용한다. 논문은 메트로폴리스-하스팅스 커널의 비표준 표현과 재파rameterization 기법을 사용하여 AIS 및 SIS 기반 ELBO의 미분 가능한 기울기 추정기를 도입함으로써, 낮은 분산 기울기와 함께 엔드 투 엔드 학습이 가능하게 하였다. 이는 MNIST, CIFAR-10, CelebA에서 더 나은 가능도 추정을 가능하게 한다.

ABSTRACT

Variational auto-encoders (VAE) are popular deep latent variable models which are trained by maximizing an Evidence Lower Bound (ELBO). To obtain tighter ELBO and hence better variational approximations, it has been proposed to use importance sampling to get a lower variance estimate of the evidence. However, importance sampling is known to perform poorly in high dimensions. While it has been suggested many times in the literature to use more sophisticated algorithms such as Annealed Importance Sampling (AIS) and its Sequential Importance Sampling (SIS) extensions, the potential benefits brought by these advanced techniques have never been realized for VAE: the AIS estimate cannot be easily differentiated, while SIS requires the specification of carefully chosen backward Markov kernels. In this paper, we address both issues and demonstrate the performance of the resulting Monte Carlo VAEs on a variety of applications.

연구 동기 및 목표

• 표준 VAE가 진정한 로그가능도를 추정하는 데 어려움을 겪는 이유는 느슨한 ELBO 하한 때문이므로 이를 해결한다.
• 이전에는 엔드 투 엔드 학습에서 사용이 불가능했지만, AIS 및 SIS 추정기를 VAE 학습에서 미분 가능하게 하는 도전 과제를 해결한다.
• 학습 가능한 역방향 마르코프 커널이 필요 없이도 VAE 프레임워크 내에서 고급 몬테카를로 추정기(예: AIS 및 SIS)를 사용할 수 있는 방법을 개발한다.
• 고차원적이고 낮은 분산을 가진 중요도 샘플링 추정기를 사용하여 ELBO를 강화함으로써 변분 추론의 품질을 향상시킨다.
• 실제 데이터셋에서 SIS 기반 MCVAE가 방향성 없는 랭지에빈 전이를 사용할 경우, 표준 VAE 및 IWAE보다 ELBO와 로그가능도 측면에서 뛰어나다는 것을 입증한다.

제안 방법

• 방향성 없는 마르코프 전이 커널(특히 조정되지 않은 랭지에빈 동역학)을 사용한 새로운 SIS 기반 ELBO를 제안하여, 역방향 커널 학습이 필요 없도록 한다.
• 재파rameterization 기법을 사용하여 SIS 기반 ELBO의 편향 없는 기울기 추정기를 유도함으로써 효율적인 역전파를 가능하게 한다.
• 메트로폴리스-하스팅스 커널의 비표준 표현을 도입하여, 샘플링을 미분 가능하게 하고 AIS 기반 ELBO의 기울기 추정을 가능하게 한다.
• REINFORCE 유형의 높은 분산 기울기 문제를 완화하기 위해 분산 감소 기법을 적용하여 AIS 기반 ELBO의 학습 안정성을 높인다.
• 사전 분포에서 동시 모델까지의 안내된 다리 분포의 시퀀스를 사용하여 AIS 경로를 정의하고, MCMC 전이를 K단계로 수행한다.
• 표준 VAE 아키텍처를 사용하여 이미지 생성 작업에 적용하며, 합성곱 인코더 및 디코더를 사용하고, 인과적 베르누이/가우시안 가능도를 사용한다.

실험 결과

연구 질문

• RQ1 분석적 중요도 샘플링(AIS)을 사용하여 VAE에서 더 타이트한 ELBO를 구성하면서도, 미분 가능한 학습이 가능할 수 있는가?
• RQ2 메트로폴리스-하스팅스 전이 커널을 어떻게 미분 가능하게 만들 수 있으며, 이를 통해 AIS 기반 VAE에서 기반 기반 최적화가 가능하게 할 수 있는가?
• RQ3 조정되지 않은 랭지에빈 동역학(ULA)을 사용한 순차적 중요도 샘플링(SIS)이 표준 VAE나 IWAE보다 더 나은 ELBO와 로그가능도를 제공하는가?
• RQ4 MCVAE 학습에서 MCMC 단계 수를 늘릴 경우, 계산 비용과 성능 향상 사이의 상충 관계는 어떻게 되는가?
• RQ5 방향성 없는 전이를 사용한 SIS 기반 MCVAE가 표준 VAE와 AIS 기반 MCVAE보다 ELBO 타이트함과 가능도 추정 측면에서 뛰어나게 성능을 발휘할 수 있는가?

주요 결과

• L-MCVAE(SIS 기반, 랭지에빈 동역학 사용)는 K=5일 때 MNIST에서 테스트 로그가능도 68.09 ± 0.10을 기록하여, IWAE(69.43 ± 0.03)와 표준 VAE를 능가한다.
• A-MCVAE(AIS 기반)는 K=3일 때 MNIST에서 테스트 로그가능도 69.97 ± 0.99를 기록하여, 일부 설정에서 AIS가 SIS보다 더 타이트한 ELBO를 제공함을 보여준다.
• L-MCVAE에서 MCMC 단계 수(K)를 늘일수록 ELBO와 보류된 로그가능도가 향상되며, K=10일 때 CIFAR-10에서 68.36 ± 0.04를 기록한다.
• L-MCVAE는 A-MCVAE보다 더 빠른 수렴과 더 나은 안정성을 보이며, 이는 낮은 분산 기울기 추정 덕분으로 여겨진다.
• 제안된 방법은 MNIST(68.09 ± 0.10, K=5)와 CIFAR-10(67.76 ± 0.04, K=10)에서 최신 기술 수준의 로그가능도를 달성하여, 표준 VAE와 IWAE를 모두 뛰어넘었다.
• 실증 결과는 SIS 기반 MCVAE가 방향성 없는 전이를 사용할 경우 ELBO 타이트함과 기울기 분산 사이의 유리한 상충 관계를 제공함을 확인하였으며, AIS 기반 대안보다 더 실용적임을 입증한다.