[논문 리뷰] Overdispersed Black-Box Variational Inference

Francisco J. R. Ruiz, Michalis K. Titsias외 1명|arXiv (Cornell University)|2016. 03. 03.

Gaussian Processes and Bayesian Inference참고 문헌 40인용 수 16

한 줄 요약

이 논문은 과분산된 백박스 변분 추론(o-BBVI)을 제안하며, 변분 근사와 같은 지수가족 내 과분산 분포에서 중요도 샘플링을 사용하여 백박스 변분 추론에서의 기울기 분산을 줄이는 방법이다. 표준 BBVI보다도 더 낮은 분산을 달성하며, 샘플 수가 절반일 때조차도 더 빠른 수렴을 이끌어내어 확률적 최적화에서 더 빠른 수렴을 가능하게 한다.

ABSTRACT

We introduce overdispersed black-box variational inference, a method to reduce the variance of the Monte Carlo estimator of the gradient in black-box variational inference. Instead of taking samples from the variational distribution, we use importance sampling to take samples from an overdispersed distribution in the same exponential family as the variational approximation. Our approach is general since it can be readily applied to any exponential family distribution, which is the typical choice for the variational approximation. We run experiments on two non-conjugate probabilistic models to show that our method effectively reduces the variance, and the overhead introduced by the computation of the proposal parameters and the importance weights is negligible. We find that our overdispersed importance sampling scheme provides lower variance than black-box variational inference, even when the latter uses twice the number of samples. This results in faster convergence of the black-box inference procedure.

연구 동기 및 목표

• 백박스 변분 추론(BBVI)에서 몬테카를로 기울기 추정기의 높은 분산 문제를 해결하여 최적화 수렴 속도를 높이기.
• 재파라미터화나 모델 특화 가정에 의존하지 않고도 임의의 지수가족 변분 분포에 적용 가능한 일반 목적의 방법 개발.
• 사후분포를 더 잘 포괄할 수 있도록 변분 분포보다 꼬리가 두꺼운 제안 분포를 구성함으로써 BBVI의 효율성 향상.
• 계산 오버헤드가 크게 증가하지 않으면서도 분산 감소를 달성하여 복잡한 모델에 실용적으로 적용 가능하게 하기.
• 평균장 및 구조적 추론, 확률적 프로그래밍과 호환되면서도 BBVI를 향상시키는 통합 프레임워크 제공.

제안 방법

• BBVI에서 기울기를 추정하기 위해 중요도 샘플링을 사용하며, 변분 분포와 같은 지수가족 내 과분산 분포에서 샘플을 추출한다.
• 지수가족 분포의 산란 매개변수 τ를 조정하여 제안 분포를 구성한다: 매개변수 λ를 가진 분포의 경우, 제안 분포는 λ/τ와 1/τ로 스케일링된 형상 매개변수를 사용한다.
• 감마 분포의 경우 과분산된 형태는 형상 매개변수 (s + τ - 1)/τ, 비율 매개변수 r/τ를 가지며, 포isson 분포의 경우 Poisson(λ^{1/τ})가 된다.
• 중요도 가중치는 원래 변분 밀도와 과분산 제안 밀도의 비율을 사용하여 계산한다.
• 이 방법은 완전히 백박스이다: 로그 결합 밀도 p(x,z), 로그 변분 밀도 q(z;λ), 그리고 ∇λ log q(z;λ)의 스코어 함수 외에는 추가 정보가 필요로 하지 않는다.
• 기존의 분산 감소 기법(예: 제어 변수, Rao-Blackwellization)과도 호환되며, 이를 함께 사용할 수 있다.

실험 결과

연구 질문

• RQ1 과분산 중요도 샘플링은 표준 BBVI보다 백박스 변분 추론에서 기울기 추정기의 분산을 더 효과적으로 줄일 수 있는가?
• RQ2 의미 있는 분산 감소를 달성하면서도 계산 오버헤드가 크게 증가하지 않는가?
• RQ3 o-BBVI는 BBVI가 샘플 수를 두 배로 늘인 경우와 비교해 수렴 속도와 추정 정확도 측면에서 어떻게 성능을 내는가?
• RQ4 o-BBVI는 재파라미터화나 수치적 적분이 불가능한 경우에도 지수가족 분포 전반에 걸쳐 일반적으로 적용 가능한가?
• RQ5 혼합 제안 분포를 사용할 경우 단일 과분산 제안 분포보다 안정성과 성능이 더 향상되는가?

주요 결과

• o-BBVI는 BBVI가 샘플 수를 두 배로 늘인 경우조차도 기울기 추정기의 분산을 더 크게 감소시킨다.
• 비공액 시간 시리즈 모델(gn-ts)에서 o-BBVI는 BBVI가 샘플 수를 두 배로 늘인 경우보다 평균 샘플 분산이 낮으며, 그림 1a에서 이를 확인할 수 있다.
• ELBO 및 예측 성능(보류된 우도) 측면에서 o-BBVI는 gn-ts 모델에서 표준 BBVI를 능가한다. 그림 1b와 1c에서 이를 입증하였다.
• 포isson 기반 딥 지수가족(DEF) 모델에서 o-BBVI는 BBVI보다 분산이 낮고, ELBO 및 퍼플렉서티 성능이 뛰어나며, 이중 성분 혼합 제안 분포가 단일 제안 분포보다 略적으로 더 높은 안정성을 제공한다.
• o-BBVI는 국소 기대값보다 초기 최적화 단계에서 더 빠르게 수렴한다. 이는 국소 기대값이 가우시안 변수에 대해 수치적 적분을 사용하지만도 o-BBVI가 더 뛰어난 계산 효율성을 보임을 시사한다.
• 이 방법은 국소 기대값보다 더 일반적이다. 형상 매개변수가 1 미만일 경우 감마 및 포isson 분포에서 0에서의 특이성이 발생하여 국소 기대값이 실패하기 때문이다.