[논문 리뷰] A New Approach to Probabilistic Programming Inference

Frank Wood, Jan Willem van de Meent외 1명|arXiv (Cornell University)|2015. 07. 03.

Markov Chains and Monte Carlo Methods참고 문헌 8인용 수 4

한 줄 요약

이 논문은 복잡한 제어 흐름과 베이지안 비모수 원소를 지원하는 튜링 완전 언어에서 효율적이고 병렬 처리 가능한 샘플링을 가능하게 하는 확률적 프로그래밍 추론을 위한 입자 마르코프 체인 몬테카를로(PMCMC) 접근법을 제안한다. 조건부 밀도가 높은 모델에서 단일 입자 메트로폴리스-해스팅스 방법보다 더 빠른 수렴을 보이며, 계산 비용을 보정한 후에도 여전히 빠른 성능을 보인다.

ABSTRACT

We introduce and demonstrate a new approach to inference in expressive probabilistic programming languages based on particle Markov chain Monte Carlo. Our approach is simple to implement and easy to parallelize. It applies to Turing-complete probabilistic programming languages and supports accurate inference in models that make use of complex control flow, including stochastic recursion. It also includes primitives from Bayesian nonparametric statistics. Our experiments show that this approach can be more efficient than previously introduced single-site Metropolis-Hastings methods.

연구 동기 및 목표

• 복잡한 제어 흐름과 베이지안 비모수 통계를 지원하는 표현력 있는 확률적 프로그래밍 언어를 위한 확장 가능하고 효율적인 추론 방법 개발
• 기존 MCMC 방법으로는 어려운 스 tochastic 재귀와 복잡한 조건부 의존성을 가진 모델에서 정확한 추론을 가능하게 하기
• 입자 기반 MCMC 기법을 활용하여 기존의 단일 입자 메트로폴리스-해스팅스 샘플러보다 계산 효율성을 향상시키기
• 반복적인 프로그램 시뮬레이션을 통해 간편한 구현과 병렬 처리를 가능하게 하여 실세계 모델에서의 실용적 추론 지원

제안 방법

• 이 방법은 입자 마르코프 체인 몬테카를로(PMCMC)를 활용하며, 순차적 몬테카를로(SMC)와 MCMC를 조합하여 확률적 프로그램의 실행 트레이스를 탐색한다.
• 입자 필터를 사용하여 실행 트레이스를 전파하고 재표본화하며, 각 입자에 대해 전체 프로그램을 재실행하여 가능도를 평가한다.
• 교환 가능하고 기본적인 랜덤 원소를 모두 지원하며, 중국 식당 과정(CRP)과 같은 비모수 분포도 포함된다.
• PMCMC 방법의 구현과 평가를 위해 앵글리칸 확률적 프로그래밍 언어의 인터프리터 및 이후 컴파일러 버전을 활용한다.
• 추론 엔진은 병렬 처리가 가능하도록 설계되었으며, 입자들이 스레드 간 독립적으로 실행되지만, 현재 메모리 접근 패턴이 최적의 병렬성을 제한한다.
• 프로그램은 린스/스키마 유사 문법으로 작성되며, assume, observe, predict를 위한 특수 형식을 포함하여 트레이스 수준의 관찰과 모니터링을 가능하게 한다.

실험 결과

연구 질문

• RQ1 복잡한 제어 흐름, 예를 들어 스 tochastic 재귀를 포함한 튜링 완전 확률적 프로그램에 대해 PMCMC가 효과적으로 적용될 수 있는가?
• RQ2 계산 비용을 고려한 상황에서 PMCMC의 수렴 속도와 계산 효율성은 단일 입자 메트로폴리스-해스팅스 방법과 비교해 어떻게 되는가?
• RQ3 프로그램 라인의 순서가 PMCMC의 추론 성능에 미치는 영향은 어느 정도이며, 이는 최적화에 활용될 수 있는가?
• RQ4 SMC 구성 요소의 입자 수가 PMCMC 추론의 정확도와 효율성에 미치는 영향는 어떠한가?
• RQ5 계산 오버헤드를 고려한 상황에서도 PMCMC는 RDB(거부 기반 샘플링)보다 더 빠른 수렴을 달성할 수 있는가?

주요 결과

• PMCMC는 계산 비용을 보정한 후에도 단일 입자 메트로폴리스-해스팅스 방법보다 진짜 조건부 분포로의 수렴 속도가 더 빠르다.
• HMM 모델에서 프로그램 라인을 조기에 관측을 우선시하도록 순서를 정리하면 PMCMC가 RDB를 능가하지만, 악성 순서에서는 성능이 저하된다.
• DP 혼합 모델에서는 모든 라인 순서에 대해 PMCMC가 RDB를 일관되게 능가하여 문법적 순서에 대한 민감성이 낮음을 보여준다.
• 입자 수를 늘일수록 추론 성능이 향상되며, 실험에서 100에서 500개의 입자로 증가할 때 뚜렷한 성능 향상이 관찰되었다.
• 단일 스레드에서도 PMCMC가 종종 RDB보다 벽시계 시간에서 빠르게 작동하여, 병렬 처리 외에도 본질적인 효율성 우위를 지닌다.
• 비모수 사전 분포와 스 tochastic 재귀를 포함한 복잡한 모델을 지원하여 표현력과 실용적 적용 가능성을 입증한다.