[논문 리뷰] Data-driven Sequential Monte Carlo in Probabilistic Programming

Yura Perov, Tuan Le외 1명|arXiv (Cornell University)|2015. 12. 14.

Bayesian Modeling and Causal Inference참고 문헌 3인용 수 5

한 줄 요약

이 논문은 사전 추론 실행에서의 사후 추정치를 활용하여 신경망을 통해 향상된 제안 분포를 학습하는 데이터 기반 순차 몽테카를로(SMC) 방법을 제안한다. 이전 추론 데이터를 기반으로 네트워크를 훈련시음으로써 정확한 사후 추정을 위해 필요한 입자 수를 크게 감소시키며, 모델의 사전 분포에만 의존하는 표준 SMC보다 뛰어난 성능을 발휘한다.

ABSTRACT

Most of Markov Chain Monte Carlo (MCMC) and sequential Monte Carlo (SMC) algorithms in existing probabilistic programming systems suboptimally use only model priors as proposal distributions. In this work, we describe an approach for training a discriminative model, namely a neural network, in order to approximate the optimal proposal by using posterior estimates from previous runs of inference. We show an example that incorporates a data-driven proposal for use in a non-parametric model in the Anglican probabilistic programming system. Our results show that data-driven proposals can significantly improve inference performance so that considerably fewer particles are necessary to perform a good posterior estimation.

연구 동기 및 목표

• 모델 사전 분포에만 의존하는 표준 SMC 및 MCMC 방법의 비효율성을 해결하기 위해.
• 데이터에서 분류적 제안 분포를 학습하여 확률적 프로그래밍의 추론 성능을 향상시키기 위해.
• 순차 몽테카를로 추론에서 정확한 사후 추정을 위해 필요한 입자 수를 줄이기 위해.
• 앵글리칸 확률적 프로그래밍 시스템 내 비모수적 모델에 데이터 기반 제안을 통합하기 위해.

제안 방법

• 이전 추론 실행에서의 사후 추정치를 사용하여 최적의 제안 분포를 근사하는 신경망을 훈련한다.
• 신경망을 순차 몽테카를로의 제안으로 사용하여 전통적인 사전 기반 제안을 대체하거나 향상시킨다.
• 이전 실행에서의 블랙박스 추론 결과를 활용하여 제안 네트워크의 훈련을 지도한다.
• 비모수적 모델을 위한 앵글리칸 확률적 프로그래밍 시스템에 학습된 제안을 통합한다.
• 비모수적 모델에 이 방법을 적용하여 추론 효율성 향상을 입증한다.
• 학습된 제안과 진짜 사후 분포 간의 격리 차이를 최소화하는 분류적 훈련 목표를 사용한다.

실험 결과

연구 질문

• RQ1 순차 몽테카를로 추론에서 제안 분포를 향상시키기 위해 신경망을 효과적으로 훈련시킬 수 있는가?
• RQ2 입자 효율성 측면에서 데이터 기반 제안과 사전 기반 제안은 어떻게 비교되는가?
• RQ3 학습된 제안은 정확한 사후 추정을 위해 필요한 입자 수를 어느 정도 줄일 수 있는가?
• RQ4 확률적 프로그래밍의 비모수적 모델에 데이터 기반 제안을 성공적으로 통합할 수 있는가?
• RQ5 이전 실행에서의 사후 추정치를 사용하면 더 나은 추론 성능를 달성할 수 있는가?

주요 결과

• 표준 SMC의 사전 기반 제안과 비교해 데이터 기반 제안은 정확한 사후 추정을 위해 필요한 입자 수를 크게 감소시킨다.
• 더 적은 입자로도 더 나은 사후 근사치를 달성하여 추론 효율성이 향상됨을 입증한다.
• 신경망 제안은 사후 분포의 구조에 적응하도록 학습되어 수렴 속도가 빨라진다.
• 이 방법은 비모수적 모델에서도 효과적이며, 복잡한 추론 작업에서의 확장성과 강건성을 보여준다.
• 실험 결과, 학습된 제안은 유효 표본 크기와 추정 정확도 측면에서 베이스라인 방법보다 뛰어난 성능을 보였다.
• 앵글리칸 확률적 프로그래밍 시스템에의 통합은 실용적 적용 가능성과 성능 향상을 입증한다.