[논문 리뷰] Variational Program Inference

Georges R. Harik, Noam Shazeer|arXiv (Cornell University)|2010. 06. 04.

Bayesian Modeling and Causal Inference참고 문헌 3인용 수 3

한 줄 요약

이 논문은 확률적 추론을 프로그램 실행으로 공식화하는 변분 추론 프레임워크를 소개한다. 가이드 프로그램을 사용해 모델 프로그램의 랜덤 선택을 사후 분포 쪽으로 이끌며, KL 발산을 추정하고 가이드를 통해 중요도 샘플링을 수행함으로써 증거와 가설 확률에 대한 효율적인 하한을 제공한다. 이는 추론을 최적의 가이드 프로그램을 찾는 탐색 문제로 전환시킨다.

ABSTRACT

We introduce a framework for representing a variety of interesting problems as inference over the execution of probabilistic model programs. We represent a "solution" to such a problem as a guide program which runs alongside the model program and influences the model program's random choices, leading the model program to sample from a different distribution than from its priors. Ideally the guide program influences the model program to sample from the posteriors given the evidence. We show how the KL- divergence between the true posterior distribution and the distribution induced by the guided model program can be efficiently estimated (up to an additive constant) by sampling multiple executions of the guided model program. In addition, we show how to use the guide program as a proposal distribution in importance sampling to statistically prove lower bounds on the probability of the evidence and on the probability of a hypothesis and the evidence. We can use the quotient of these two bounds as an estimate of the conditional probability of the hypothesis given the evidence. We thus turn the inference problem into a heuristic search for better guide programs.

연구 동기 및 목표

• 복잡한 추론 문제를 구조화된 안내를 받는 확률적 프로그램 실행으로 모델링하기.
• 확률적 모델에서 계산이 불가능한 사후 분포를 근사하는 데 도전하기.
• 가이드 프로그램을 최적화하여 추론 정확도를 향상시킬 수 있는 프레임워크 개발하기.
• 중요도 샘플링을 통해 증거와 조건부 확률에 대한 통계적 하한 제공하기.
• 베이지안 추론을 효과적인 가이드 프로그램을 찾는 히우리스틱 탐색으로 프레임워크화하기.

제안 방법

• 랜덤 선택을 포함한 확률적 모델 프로그램으로 추론 문제를 표현하기.
• 모델 프로그램의 랜덤 선택을 사후 분포 쪽으로 유도하기 위해 가이드 프로그램 도입하기.
• 다중 실행을 통해 진짜 사후 분포와 가이드된 모델 분포 사이의 KL 발산 추정하기.
• 가이드 프로그램을 중요도 샘플링의 제안 분포로 사용하여 증거와 가설 확률에 대한 하한 계산하기.
• 이 하한의 비율을 증거가 주어졌을 때 가설의 조건부 확률의 추정치로 사용하기.
• KL 발산을 최소화하고 하한의 날카움을 향상시키기 위해 히우리스틱 탐색을 통해 가이드 프로그램 최적화하기.

실험 결과

연구 질문

• RQ1 실행 가능한 프로그램을 사용해 확률적 추론을 체계적으로 표현하고 최적화할 수 있는가?
• RQ2 명시적 기울기 계산 없이도 가이드 프로그램이 모델 프로그램을 사후 분포 쪽으로 효과적으로 이끌 수 있는가?
• RQ3 가이드 프로그램의 품질과 증거 및 가설 확률에 대한 하한의 날카움 사이의 관계는 무엇인가?
• RQ4 프로그래밍 환경에서 진짜 사후 분포와 가이드된 모델 간의 KL 발산을 효율적으로 추정할 수 있는가?
• RQ5 가이드 프로그램에 대한 히우리스틱 탐색이 사후 분포의 정확한 근사치를 도출하는 데 얼마나 효과적인가?

주요 결과

• 가이드된 프로그램을 다중 실행하여 진짜 사후 분포와 가이드된 모델에 의해 유도된 분포 사이의 KL 발산을 상수항을 제외한 채로 효율적으로 추정할 수 있다.
• 가이드 프로그램을 사용한 중요도 샘플링은 증거의 확률과 증거가 주어졌을 때 가설의 확률에 대한 통계적으로 타당한 하한을 제공한다.
• 이 하한의 비율은 증거가 주어졌을 때 가설의 조건부 확률에 대한 신뢰할 수 있는 추정치로 기능한다.
• KL 발산을 최소화하고 하한의 날카움을 향상시키기 위해 가이드 프로그램을 히우리스틱 탐색하는 것이 가능해져 추론 정확도가 향상된다.
• 이 방법은 일반적이며 확률적 모델 프로그램으로 표현 가능한 다양한 문제에 적용 가능하다.
• 이 접근법은 샘플링과 랜덤 선택의 프로그램 수준 조작에 의존함으로써 명시적 기울기 계산을 피한다.