[논문 리뷰] Provable Bayesian Inference via Particle Mirror Descent

Bo Dai, Niao He외 2명|arXiv (Cornell University)|2015. 06. 09.

Gaussian Processes and Bayesian Inference참고 문헌 29인용 수 12

한 줄 요약

이 논문은 밀도 공간에서의 확률적 미러 강하와 입자 기반 밀도 표현을 조합하여, 증명 가능하게 수렴하는 베이지안 추론을 위한 알고리즘인 입자 미러 강하(Particle Mirror Descent, PMD)를 제안한다. PMD는 $m$개의 입자를 사용할 때 진짜 사후분포로의 KL 발산에서 수렴 속도 $O(1/\sqrt{m})$를 달성하며, 혼합 모델, 로지스틱 회귀, 희소 가우시안 프로세스, LDA를 포함한 다양한 모델에서 이론적 보장과 뛰어난 경험적 성능을 동시에 제공한다.

ABSTRACT

Bayesian methods are appealing in their flexibility in modeling complex data and ability in capturing uncertainty in parameters. However, when Bayes' rule does not result in tractable closed-form, most approximate inference algorithms lack either scalability or rigorous guarantees. To tackle this challenge, we propose a simple yet provable algorithm, \emph{Particle Mirror Descent} (PMD), to iteratively approximate the posterior density. PMD is inspired by stochastic functional mirror descent where one descends in the density space using a small batch of data points at each iteration, and by particle filtering where one uses samples to approximate a function. We prove result of the first kind that, with $m$ particles, PMD provides a posterior density estimator that converges in terms of $KL$-divergence to the true posterior in rate $O(1/\sqrt{m})$. We demonstrate competitive empirical performances of PMD compared to several approximate inference algorithms in mixture models, logistic regression, sparse Gaussian processes and latent Dirichlet allocation on large scale datasets.

연구 동기 및 목표

• 근사 베이지안 추론 알고리즘에서 증명 가능한 수렴성과 확장성의 부족을 해결하기 위해.
• 이론적 보장을 유지하면서 대규모 데이터셋으로도 확장 가능한 비모수적 추론 방법을 개발하기 위해.
• 사후 근사에서 확률적 최적화와 입자 기반 밀도 추정 간 격차를 메우기 위해.
• 유한한 입자 수를 가진 상태에서도 KL 발산에서 수렴을 보장하는 통합 프레임워크를 제공하기 위해.

제안 방법

• PMD는 밀도 공간에서의 확률적 밀도에 대한 볼록 최적화 문제로 베이지안 사후 근사 문제를 재구성한다.
• 전체 데이터 스캔을 피하기 위해 데이터의 미니배치를 사용하여 반복적으로 사후 근사를 갱신하는 확률적 미러 강하를 적용한다.
• 비모수적 근사를 가능하게 하기 위해 가중치가 부여된 입자 집합을 유지한다.
• 입자 샘플로부터의 밀도 추정 정확도를 향상시키기 위해 가중치가 부여된 커널 밀도 추정기를 통합한다.
• 수렴을 보장하기 위해 감소하는 스텝 사이즈 규칙 $\eta_t = \eta / (n_0 + \sqrt{t})$를 사용한다.
• 이론적 분석을 통해 KL 발산 측면에서 사후 추정기의 약한 수렴과 강한 수렴을 모두 입증한다.

실험 결과

연구 질문

• RQ1 입자 기반 알고리즘이 베이지안 추론에서 진짜 사후분포로의 KL 발산에서 증명 가능한 수렴을 달성할 수 있는가?
• RQ2 확률적 미러 강하와 입자 표현을 조합하면 확장 가능하고 정확한 사후 근사가 가능할까?
• RQ3 입자 수 $m$에 대한 사후 추정기의 수렴 속도는 무엇인가?
• RQ4 대규모 모델에서 PMD가 MCMC, 변분 추론, SMC와 경험적으로 어떻게 비교되는가?
• RQ5 PMD는 실무에서 기존의 확률적 알고리즘보다 우수하면서도 이론적 보장을 유지할 수 있는가?

주요 결과

• PMD는 진짜 사후분포로의 KL 발산에서 수렴 속도 $O(1/\sqrt{m})$를 확보하며, 여기서 $m$은 입자의 수이다.
• 혼합 모델, 로지스틱 회귀, 희소 가우시안 프로세스, 잠재 디리클레 분할(Latent Dirichlet Allocation, LDA)에서 경쟁적인 경험적 성능을 보였다.
• 1차원 희소 가우시안 프로세스 회귀에서, PMD의 사후 평균은 반복이 진행됨에 따라 기저 진실값으로 수렴하며, 그림으로 시각화된 불확실성 밴드가 시간이 지남에 따라 좁아진다.
• 음악 연도 예측 작업에서, 16개의 입자와 1024개의 유도 변수를 사용한 PMD는 계산 비용이 유사한 SMC와 SVI보다 예측 성능에서 뛰어나게 성과를 냈다.
• LDA에서 PMD는 일관된 주제를 학습하였으며(그림 5 참조), 검증 세트에서 경쟁하는 확률적 방법들보다 낮은 로그 퍼플렉서티를 달성하였다.
• 이론적 분석을 통해 약간의 정규성 조건 하에 PMD 사후 추정기의 강한 수렴이 확인되었으며, 커널 밀도 추정 구성 요소에 대한 유한 표본 오차 한계도 유도되었다.