[논문 리뷰] Variational Inference with Rényi Divergence.

Yingzhen Li, Richard E. Turner|arXiv (Cornell University)|2016. 02. 06.

Gaussian Processes and Bayesian Inference참고 문헌 31인용 수 12

한 줄 요약

이 논문은 레니의 알파-발산을 사용한 변분 추론을 위한 통합 프레임워크인 변분 레니 바운드(VR)를 소개한다. 이는 증거 하한 경계(ELBO)와 로그 마진럴 리크렐리티 사이를 부드럽게 보간하는 것으로, 재패arameterization 트릭, 몬테카를로 추정, 확률적 최적화를 활용하여 다양한 모델, 특히 변분 오토에인코더와 베이지안 신경망에서의 민감하고 확장 가능한 추론을 가능하게 한다.

ABSTRACT

We introduce the variational R\'enyi bound (VR) that extends traditional variational inference to R\'enyi's alpha-divergences. This new family of variational lower-bounds unifies a number of existing variational methods, and enables a smooth interpolation from the evidence lower-bound to the log (marginal) likelihood that is controlled by the value of alpha. The reparameterization trick, Monte Carlo estimation and stochastic optimisation methods are deployed to obtain a unified implementation for the VR bound optimisation. We further consider negative alpha values and propose a novel variational inference method as a new special case in the proposed framework. Experiments on variational auto-encoders and Bayesian neural networks demonstrate the wide applicability of the VR bound.

연구 동기 및 목표

• 레니의 알파-발산을 기반으로 기존의 변분 추론 방법들을 하나의 프레임워크로 통합하는 것.
• 알파 파라미터를 조절함으로써 ELBO와 로그 마진럴 리크렐리티 사이의 부드러운 보간을 가능하게 하는 것.
• 음수 알파 값으로의 변분 추론 확장을 통해 새로운 추론 방법을 도입하는 것.
• 재패arameterization 트릭과 확률적 최적화를 활용한 확장 가능하고 통합된 구현 제공.
• VR 바운드가 생성 모델과 베이지안 신경망 전반에 걸쳐 널리 적용 가능한지를 확인하는 것.

제안 방법

• 레니의 알파-발산을 사용하여 ELBO의 일반화로 변분 레니 바운드(VR)를 제안한다.
• 알파 파라미터에 따라 의존하는 로그 마진럴 리크렐리티의 하한을 유도하며, 이는 알파 → 1일 때 ELBO, 알파 → 0일 때 로그우도로의 보간을 가능하게 한다.
• VR 바운드의 기울기 기반 최적화를 가능하게 하기 위해 재패arameterization 트릭을 적용한다.
• VR 바운드의 기대값을 근사하기 위해 몬테카를로 추정을 사용하여 확률적 최적화를 수행한다.
• 프레임워크를 음수 알파 값으로 확장하여, 기존 프레임워크에서 다루지 않은 새로운 변분 추론 방법을 도입한다.
• 미니배치를 사용하여 효율적으로 모델을 훈련하기 위해 확률적 최적화 기법을 적용한다.

실험 결과

연구 질문

• RQ1 어떻게 더 넓은 유형의 발산을 사용하여 ELBO를 초월한 변분 추론을 일반화할 수 있는가?
• RQ2 레니의 알파-발산이 ELBO와 로그 마진럴 리크렐리티 사이를 부드럽게 보간할 수 있는가?
• RQ3 음수 알파 값으로의 변분 추론 확장은 어떤 의미를 갖는가?
• RQ4 VR 바운드는 다양한 딥 생성 모델에서 실제로 어떻게 성능을 발휘하는가?
• RQ5 재패arameterization 트릭과 확률적 최적화와 같은 표준 딥러닝 도구를 사용하여 VR 프레임워크를 효율적으로 구현할 수 있는가?

주요 결과

• VR 바운드는 알파 파라미터를 통해 존재하는 변분 추론 방법들을 통합하는 프레임워크를 제공한다.
• 알파를 조절함으로써 ELBO에서 로그 마진럴 리크렐리티로의 부드러운 보간이 가능해져 모델 훈련의 유연성이 향상된다.
• 음수 알파 값으로의 확장은 기존 표준 프레임워크에서 다루지 않은 새로운 변분 추론 방법을 도출한다.
• 재패arameterization 트릭, 몬테카를로 샘플링, 그리고 확률적 최적화를 통해 VR 바운드는 효율적으로 최적화되어 확장 가능한 훈련이 가능하다.
• 변분 오토에인코더와 베이지안 신경망에서의 실험을 통해 VR 바운드의 광범위한 적용 가능성과 효과성을 확인하였다.
• 근사 사후 분포의 민감성 향상과 함께 계산 효율성도 유지한다.