[논문 리뷰] Variational Inference using Implicit Distributions

Ferenc Huszár|arXiv (Cornell University)|2017. 02. 27.

Generative Adversarial Networks and Image Synthesis참고 문헌 27인용 수 70

한 줄 요약

본 논문은 잠재 분포를 사용하는 변분 추론(variational inference) 방법들을 조사하고 통합하여 VI를 GAN-유사 접근법 및 denoising 기반 기법과 연결하고, prior- 및 joint-contrastive 형식을 포함한 실용 알고리즘을 제시하는 프레임워크를 제시한다.

ABSTRACT

Generative adversarial networks (GANs) have given us a great tool to fit implicit generative models to data. Implicit distributions are ones we can sample from easily, and take derivatives of samples with respect to model parameters. These models are highly expressive and we argue they can prove just as useful for variational inference (VI) as they are for generative modelling. Several papers have proposed GAN-like algorithms for inference, however, connections to the theory of VI are not always well understood. This paper provides a unifying review of existing algorithms establishing connections between variational autoencoders, adversarially learned inference, operator VI, GAN-based image reconstruction, and more. Secondly, the paper provides a framework for building new algorithms: depending on the way the variational bound is expressed we introduce prior-contrastive and joint-contrastive methods, and show practical inference algorithms based on either density ratio estimation or denoising.

연구 동기 및 목표

• Implicit distributions를 이용한 variational inference의 설득력을 높여 explicit VI의 tractability 한계를 극복한다.
• GAN-유사 및 denoising 기반 추론 방법들을 VI 프레임워크 아래에서 통합한다.
• prior-contrastive 및 joint-contrastive variational bounds의 분류 체계를 도입한다.
• densities가 계산 불가능할 때 density ratios나 gradient를 추정하기 위한 실용 알고리즘을 제공한다.
• priors나 likelihood가 암묵적이고 학습 확장을 위한 미래 방향을 논의한다.

제안 방법

• ELBO를 두 가지 형태로 표현한다: prior-contrastive (r) 및 joint-contrastive (s) density ratios를 잠재/포스트eriour 분포 간에.
• adversarial discriminators를 통한 density-ratio 추정(PC-Adv, JC-Adv) 및 denoising autoencoder를 통한 gradient 추정(PC-Den, JC-Den)을 제안한다.
• 두 가지 추론 모드에 대한 알고리즘을 제공한다: PC-Adv/JC-Adv (implicit distributions로 추론) 및 PC-Den/JC-Den (gradient-based VI).
• q_psi가 암묵적일 때 제너레이터를 이용한 샘플링 재매개변수화로 SGD 업데이트를 가능하게 하는 재매개변수화 트릭 유사체를 보여준다.
• 수렴성과 안정성을 향상시키기 위한 adversarial 및 denoising 방법의 결합에 대해 논의한다.
• 모든 분포가 암묵적일 때 잠재적 전체 variational 학습을 위한 JC-Adv-RMD 변형(RMD 기반)을 Outline한다.

실험 결과

연구 질문

• RQ1 priors, likelihoods, 또는 posteriors가 암묵적이고 계산 불가능한 경우 variational inference를 어떻게 수행할 수 있는가?
• RQ2 prior-contrastive와 joint-contrastive ELBO 형태가 기존의 VI 및 GAN 기반 방법들과 어떻게 관련되는가?
• RQ3 adversarial 방법을 통한 density-ratio 추정이나 denoising 기반 gradient가 암묵적 모델에 대해 효과적인 VI 업데이트를 제공할 수 있는가?
• RQ4 추론을 위한 adversarial와 denoising 전략 간의 trade-off는 무엇이며 더 나은 성능을 위해 결합할 수 있는가?
• RQ5 JC-Adv-RMD와 같이 완전히 암묵적인 모델에 대한 완전한 variational learning으로 확장하는 것이 가능한가?

주요 결과

• 한 가지의 통합적 시각은 VAE, adversarial inference, OPVI, 및 GAN 기반 이미지 재구성을 ELBO를 density ratio로 표현하는 관점으로 연결한다.
• 두 가지 실용적 경로가 나타난다: discriminator를 이용한 density-ratio 추정(PC-Adv/JC-Adv)과 denoising 기반의 gradient(PC-Den/JC-Den), 두 경우 모두 암묵적 분포에 적용 가능하다.
• PC-Adv와 AVB는 KL 기반 VI 맥락에서 서로 동등하며, JC-Adv는 KL 발산 제한과 함께 ALI/BiGAN 형식과 관련이 있다.
• Denoiser-based VI(PC-Den)는 score와 유사한 gradient를 추정하는 유연한 대안을 제공하며, 더 나은 수렴을 위해 adversarial 방법과 결합될 수 있다.
• 본 논문은 암묵적 구성 요소로 추론을 수행하는 방법을 개요화하고, 이론적 고려와 함께 JC-Adv-RMD를 통한 잠재적 전체 학습 가능성을 논의한다.