[논문 리뷰] Variational Bayesian Inference with Stochastic Search

John Paisley, David M. Blei외 1명|arXiv (Cornell University)|2012. 06. 27.

Bayesian Methods and Mixture Models인용 수 271

한 줄 요약

이 논문은 제어 변수를 사용하여 기울기 분산을 줄이는 확률적 탐색을 통해 변분 하한을 직접 최대화하는 확률적 최적화 방법을 제안한다. 이 방법은 닫힌 형태의 적분이나 추가 하한이 필요로 하지 않기 때문에 비공액 모델(예: 로지스틱 회귀와 HDP 근사)에서도 효율적인 추론을 가능하게 한다.

ABSTRACT

Mean-field variational inference is a method for approximate Bayesian posterior inference. It approximates a full posterior distribution with a factorized set of distributions by max-imizing a lower bound on the marginal likeli-hood. This requires the ability to integrate a sum of terms in the log joint likelihood using this factorized distribution. Often not all in-tegrals are in closed form, which is typically handled by using a lower bound. We present an alternative algorithm based on stochastic optimization that allows for direct optimiza-tion of the variational lower bound. This method uses control variates to reduce the variance of the stochastic search gradient, in which existing lower bounds can play an im-portant role. We demonstrate the approach on two non-conjugate models: logistic regres-sion and an approximation to the HDP. 1.

연구 동기 및 목표

• 일반적으로 근사나 하한이 필요한 평균장 변분 추론에서의 비가역 적분 문제를 해결한다.
• 닫힌 형태의 적분이 필요 없이 변분 하한을 직접 최적화하는 방법을 개발한다.
• 로지스틱 회귀 및 계층적 딜리클레 과정과 같은 복잡한 비공액 모델에서 효율적이고 확장 가능한 베이지안 추론을 가능하게 한다.
• 기울기 분산을 줄이기 위해 제어 변수를 사용하여 확률적 최적화의 수렴성과 안정성을 향상시킨다.
• 기존의 하한을 보조 도구로 활용하여 확률적 탐색 프레임워크의 성능을 향상시킨다.

제안 방법

• 변분 추론 문제를 변분 매개변수에 대한 확률적 최적화 과제로 재구성한다.
• 몬테카를로 샘플링을 사용하여 변분 하한의 기울기를 추정함으로써, 닫힌 형태의 적분 없이 최적화를 가능하게 한다.
• 기울기 추정기의 분산을 줄이기 위해 제어 변수를 적용하여 수렴 속도와 안정성을 향상시킨다.
• 기존의 하한을 제어 변수 구성에 영향을 주거나 향상시키기 위한 보조 도구로 활용한다.
• 분산 감소를 통한 확률적 기울기 상승을 사용하여 반복적으로 변분 매개변수를 갱신한다.
• 표준 평균장 방법이 비가역 항으로 인해 실패하는 비공액 모델(예: 로지스틱 회귀 및 HDP 근사)에 이 방법을 통합한다.

실험 결과

연구 질문

• RQ1 비공액 모델에서 기울기 분산 감소를 갖는 확률적 최적화가 변분 베이지안 추론에 효과적으로 적용될 수 있는가?
• RQ2 제어 변수의 사용이 확률적 변분 추론의 수렴성과 정확성에 어떻게 기여하는가?
• RQ3 기존의 하한이 변분 추론에서의 확률적 탐색 성능 향상에 얼마나 효과적으로 활용될 수 있는가?
• RQ4 복잡한 모델에서 기존의 평균장 변분 추론과 비교해 볼 때, 제안된 방법은 확장성과 정확성 측면에서 어떻게 다른가?
• RQ5 이 방법은 실제 비공액 모델(예: 로지스틱 회귀 및 HDP 근사)에 성공적으로 적용될 수 있는가?

주요 결과

• 제안된 확률적 최적화 프레임워크는 닫힌 형태의 적분이 필요 없이 변분 하한을 직접 최대화할 수 있다.
• 제어 변수의 사용은 기울기 분산을 크게 감소시켜 최적화 과정에서 더 빠르고 안정적인 수렴을 이끌어낸다.
• 로지스틱 회귀 및 HDP 근사 작업에서 경쟁적인 추론 품질을 달성하였으며, 비공액 설정에서 표준 평균장 접근보다 우수한 성능을 보였다.
• 기존의 하한은 확률적 탐색 프레임워크에 효과적으로 통합되어 기울기 추정 및 최적화 성능을 향상시킬 수 있다.
• 기존의 변분 방법이 비가역 기대값으로 인해 실패하는 복잡한 모델에서의 베이지안 추론에 대해 이 방법은 확장성과 실용성을 입증하였다.