[논문 리뷰] On the use of backward simulation in particle Markov chain Monte Carlo methods

Fredrik Lindsten, Thomas B. Schön|arXiv (Cornell University)|2011. 10. 13.

Bayesian Methods and Mixture Models참고 문헌 27인용 수 16

한 줄 요약

이 논문은 비선형·비정규 상태공간 모델에 대한 베이지안 추론에서 혼합성과 강건성을 크게 향상시키는 입자 깁스와 후행 시뮬레이션(이하 PG-BSi)을 소개한다. 특히 입자 수가 적거나 대규모 데이터셋을 사용할 경우에 유용하다. 입자 깁스 샘플러에 후행 시뮬레이션을 통합함으로써, 열악한 조건에서도 열화를 줄이고 수렴성을 향상시켜 표준 입자 깁스 및 기타 PMCMC 변형보다 뛰어난 성능을 발휘한다.

ABSTRACT

Recently, Andrieu, Doucet and Holenstein (2010) introduced a general framework for using particle filters (PFs) to construct proposal kernels for Markov chain Monte Carlo (MCMC) methods. This framework, termed Particle Markov chain Monte Carlo (PMCMC), was shown to provide powerful methods for joint Bayesian state and parameter inference in nonlinear/non-Gaussian state-space models. However, the mixing of the resulting MCMC kernels can be quite sensitive, both to the number of particles used in the underlying PF and to the number of observations in the data. In the discussion following (Andrieu et al., 2010), Whiteley suggested a modified version of one of the PMCMC samplers, namely the particle Gibbs (PG) sampler, and argued that this should improve its mixing. In this paper we explore the consequences of this modification and show that it leads to a method which is much more robust to a low number of particles as well as a large number of observations. Furthermore, we discuss how the modified PG sampler can be used as a basis for alternatives to all three PMCMC samplers derived in (Andrieu et al., 2010). We evaluate these methods on several challenging inference problems in a simulation study. One of these is the identification of an epidemiological model for predicting influenza epidemics, based on search engine query data.

연구 동기 및 목표

• 낮은 입자 수나 대규모 데이터셋을 사용할 경우 표준 입자 깁스(PG) 샘플러의 열악한 혼합성 문제를 해결하기 위해.
• Whiteley의 후행 시뮬레이션 수정이 PG에 미치는 영향을 탐구하여 그 강건성과 향상된 성능을 입증하기 위해.
• 후행 시뮬레이션 프레임워크를 PG를 넘어서 PMMH, PIMH, PG의 세 가지 PMCMC 샘플러 전반에 확장하여 개선된 변형을 만들기 위해.
• 표준 PMCMC의 대안으로 실용적이고 계산 효율성이 높은 방법을 제공하여, 고도의 계산 제약 조건 하에서도 정확성을 유지하기 위해.

제안 방법

• 입자 필터와 후행 샘플링을 조합하여 재표본화된 조상들로부터 전체 상태 궤적을 재구성하는 입자 깁스와 후행 시뮬레이션(PG-BSi)을 제안한다.
• 입자 필터 이후 조상 선형을 재표본화하기 위해 후행 시뮬레이션을 사용하여 샘플된 궤적의 다양성과 정확도를 향상시킨다.
• 조상 색인과 입자 궤적의 결합 조건부 분포를 유도하여, 방법이 정확한 사후 분포를 대상으로 함을 보장한다.
• 후행 시뮬레이션 단계를 PG 샘플러에 적용하여, 모든 입자와 그 가중치를 조건으로 하는 조상 샘플링 절차를 수정한다.
• PG-BSi 프레임워크를 확장하여, 제안 기제에 후행 시뮬레이션을 통합함으로써 PMMH 및 PIMH 샘플러의 개선된 버전을 구축한다.
• 중요도 샘플링과 재표본화 기법을 활용하여 고차원 또는 장기간 시계열 문제에서의 가중치 불균형과 열화를 방지한다.

실험 결과

연구 질문

• RQ1 낮은 입자 수나 큰 관측 집합에서 후행 시뮬레이션은 입자 깁스 샘플러의 혼합 성질을 크게 향상시킬 수 있는가?
• RQ2 수렴 속도와 정확도 측면에서 PG-BSi의 성능은 표준 PG 및 기타 PMCMC 방법과 비교해 어떻게 되는가?
• RQ3 후행 시뮬레이션 프레임워크는 PMMH 및 PIMH와 같은 다른 PMCMC 샘플러로 일반화될 수 있는가? 이를 통해 강건성이 향상되는가?
• RQ4 PG-BSi가 진정한 사후 분포로의 수렴성과 에르고딕성을 보장하는 이론적 조건은 무엇인가?
• RQ5 특히 상태-매개변수 상호작용이 강한 모델에서는 PG-BSi가 표준 PMCMC 방법보다 왜 더 우수한 성능을 발휘하는가?

주요 결과

• PG-BSi 는 특히 낮은 입자 수를 사용할 경우 표준 입자 깁스에 비해 혼합성과 강건성이 크게 향상됨을 보여준다.
• 대규모 관측 수가 있는 경우에도 표준 PG가 열화와 열악한 혼합성 문제를 겪는 데 비해 PG-BSi 는 양호한 성능을 유지한다.
• 시뮬레이션 연구 결과, PG-BSi 는 표준 PG보다 도전적인 추론 과제에서 뛰어난 성능을 보이며, 검색 엔진 쿼리 데이터로부터 인플루엔자 유행 모델을 식별하는 데에도 유용하다.
• 후행 시뮬레이션 접근법을 통해 높은 입자 수가 필요 없이 비선형·비정규 상태공간 모델에서 상태와 매개변수를 효과적으로 동시 추론할 수 있다.
• 표준 가정 하에서 PG-BSi 는 에르고딕성과 수렴성을 보장하며, 정적성과 비가역성의 증명을 통해 이론적 보장을 받는다.
• 매개변수와 상태 간의 강한 종속성이 있는 경우, PG-BSi 는 PMMH 및 PIMH 의 대안으로서 더 나은 혼합성과 더 빠른 수렴성을 제공한다.