[논문 리뷰] Doubly Semi-Implicit Variational Inference

Dmitry Molchanov, В. А. Харитонов외 2명|arXiv (Cornell University)|2018. 10. 05.

Gaussian Processes and Bayesian Inference참고 문헌 34인용 수 4

한 줄 요약

이 논문은 근사 사후분포와 사전분포 둘 다 반암시적 분포인 경우를 위한 변분 추론 프레임워크인 이중 반암시적 변분 추론(DSIVI)을 소개한다. 반암시적 분포는 해석 가능 밀도의 혼합이며, 유연한 암시적 혼합 측도를 갖는다. DSIVI는 ELBO에 대해 渐진적으로 정확한 하한을 제공하고, 표본 수를 늘림으로써 임의로 날카로운 상한을 얻을 수 있어, 암시적 사전분포와 사후분포를 가진 모델에서 정확한 변분 학습을 가능하게 한다. 이는 VAE에서 VampPrior를 개선하여, 예열 없이도 더 표현력 있고 학습 가능한 사전분포를 가능하게 한다.

ABSTRACT

We extend the existing framework of semi-implicit variational inference (SIVI) and introduce doubly semi-implicit variational inference (DSIVI), a way to perform variational inference and learning when both the approximate posterior and the prior distribution are semi-implicit. In other words, DSIVI performs inference in models where the prior and the posterior can be expressed as an intractable infinite mixture of some analytic density with a highly flexible implicit mixing distribution. We provide a sandwich bound on the evidence lower bound (ELBO) objective that can be made arbitrarily tight. Unlike discriminator-based and kernel-based approaches to implicit variational inference, DSIVI optimizes a proper lower bound on ELBO that is asymptotically exact. We evaluate DSIVI on a set of problems that benefit from implicit priors. In particular, we show that DSIVI gives rise to a simple modification of VampPrior, the current state-of-the-art prior for variational autoencoders, which improves its performance.

연구 동기 및 목표

• 기존의 변분 추론 방법이 사전분포와 사후분포 둘 다 해석 가능 밀도를 요구하는 한계를 해결하고자 하며, 특히 더 나은 모델링을 위해 암시적 분포가 필요한 경우를 대비하고자 한다.
• 근본적으로 사전분포와 근사 사후분포 둘 다 반암시적(즉, 해석 가능 밀도의 혼합이며 암시적 혼합 분포를 갖는)일 때도 변분 추론을 지원하는 프레임워크를 개발하고자 한다.
• ELBO에 대해 渐진적으로 정확한 하한과 임의로 날카로운 상한을 제공함으로써 신뢰할 수 있는 최적화를 가능하게 하는, ELBO의 하한과 상한을 제공하고자 한다.
• DSIVI가 암시적 사전분포를 가진 실용적 환경(예: VAE)에서 효과적임을 입증하고, 기존의 최첨단 방법(VampPrior 등)을 초월함을 보이고자 한다.

제안 방법

• 사전분포와 사후분포 둘 다 반암시적 분포로 모델링하는 이중 반암시적 변분 추론(DSIVI) 프레임워크를 제안한다. 이는 해석 가능 밀도의 혼합이며, 암시적 혼합 측도를 갖는다.
• 재파arameterization 기반의 기울기 추정과 KL 발산의 변분 표현을 활용해 SIVI에 영향을 받은 渐진적으로 정확한 ELBO 하한을 유도한다.
• 표본 수를 늘림으로써 임의로 날카로운 상한이 되는 샌드위치 상한을 사용해 ELBO의 상한을 구성한다.
• 노이즈 변수에 대한 결정론적 변환으로 사후분포와 사전분포의 표본을 표현함으로써 재파arameterization 기법을 기반으로 기울기 추정을 수행한다.
• 혼합 분포를 신경망으로 매개변수화함으로써 사전분포와 사후분포를 함께 끝에서 끝까지 학습할 수 있도록 한다.
• 사전분포를 반암시적 혼합 정규분포로 모델링하고, 학습 가능한 가짜 입력과 민감한 혼합 네트워크를 사용함으로써 VAE에 이 방법을 적용한다.

실험 결과

연구 질문

• RQ1 사전분포와 사후분포 둘 다 반암시적(즉, 암시적 혼합 측도로 정의됨)일 때 변분 추론을 수행할 수 있는가?
• RQ2 이러한 설정에서 ELBO에 대해 渐진적으로 정확한 하한을 구성할 수 있는가?
• RQ3 하한과 상한 사이에 ELBO를 끼워넣는 방식으로, 표본 수를 늘임으로써 임의로 날카로운 상한을 얻을 수 있는가?
• RQ4 DSIVI는 암시적 사전분포를 사용하는 VAE와 같은 모델에서 성능을 향상시키는가? 특히 기존의 방법(VampPrior 등)과 비교하여 성능이 뛰어나게 되는가?

주요 결과

• DSIVI는 이전의 암시적 변분 추론 방법보다 ELBO에 대해 더 날카로운 하한을 달성하며, 표본 수가 증가함에 따라 하한이 渐진적으로 정확해진다.
• 이 방법은 반암시적 프레임워크 내에서 사전분포와 사후분포를 함께 끝에서 끝까지 학습할 수 있게 하여, 기존의 VampPrior보다 더 표현력 있는 모델링이 가능해진다.
• MNIST에 대한 VAE에서, DSIVI-agg(반암시적 집계 사후분포)는 K=5000일 때 테스트 로그우도 ≥−82.16을 달성하여 VampPrior(−82.38)와 VampPrior-data(−85.05)를 모두 능가한다.
• DSIVI-prior는 완전히 분리된 정규분포 조건부 분포와 신경망 기반 혼합 분포를 사용하지만, 예열 없이도 −82.27 로그우도를 달성하여 VampPrior를 능가한다.
• 계층적 VAE의 경우, DSIVI-agg는 ≥−81.09 로그우도를 달성하여 VampPrior(−81.24)와 VampPrior-data(−81.71)를 모두 뛰어넘는다.
• 이 프레임워크는 사전분포와 사후분포 둘 다 반암시적일 때 복잡한 목표 분포를 성공적으로 학습할 수 있으며, 정규분포 혼합에 대한 순차적 근사 실험을 통해 이를 입증하였다.