[논문 리뷰] On general sampling schemes for Particle Markov chain Monte Carlo methods

Eduardo Mendes, Chris Carter외 1명|arXiv (Cornell University)|2014. 01. 08.

Statistical Methods and Bayesian Inference참고 문헌 35인용 수 4

한 줄 요약

이 논문은 비선형 및 비정규 상태공간 모델에서 베이지안 추론을 위한 일반적인 입자 메트로폴리스 내 거시적(PMwG) 샘플링 프레임워크를 제안한다. 입자 MCMC와 거시적 샘플링을 조합함으로써 탄력적이고 효율적인 사후 샘플링을 가능하게 하며, 목표 사후분포로의 균일 수렴을 보장한다. 특히 초기 조건이 흐린 모델에서 복잡한 의존성을 효과적으로 처리할 수 있도록 설계되어 있다.

ABSTRACT

Particle Markov Chain Monte Carlo methods [Andrieu et al., 2010] are used to carry out inference in non-linear and non-Gaussian state space models, where the posterior density of the states is approximated using particles. Current approaches have usually carried out Bayesian inference using a particle Metropolis-Hastings algorithm or a particle Gibbs sampler. In this paper, we give a general approach to constructing sampling schemes that converge to the target distributions given in Andrieu et al. [2010] and Olsson and Ryden [2011]. We describe our methods as a particle Metropolis within Gibbs sampler (PMwG). The advantage of our general approach is that the sampling scheme can be tailored to obtain good results for different applications. We investigate the properties of the general sampling scheme, including conditions for uniform convergence to the posterior. We illustrate our methods with examples of state space models where one group of parameters can be generated in a straightforward manner in a particle Gibbs step by conditioning on the states, but where it is cumbersome and inefficient to generate such parameters when the states are integrated out. Conversely, it may be necessary to generate a second group of parameters without conditioning on the states because of the high dependence between such parameters and the states. Our examples include state space models with diffuse initial conditions, where we introduce two methods to deal with the initial conditions.

연구 동기 및 목표

• 표준 입자 메트로폴리스-해스팅스와 입자 거시적 샘플링을 초월하여 일반적인 입자 마르코프 체인 몬테카를로(PMCMC) 방법을 확장하는 탄력적이고 일반적인 목적의 샘플링 기법을 개발하는 것.
• 잠재 상태에 대해 높은 의존성을 보이는 매개변수나 효율적인 업데이트를 위해 상태에 조건부로 설정이 필요한 상태공간 모델에서 효율적인 샘플링 문제를 해결하는 것.
• 제안된 PMwG 기법이 목표 사후분포로의 균일 에르고딕성과 수렴을 보장하는 조건을 제공하는 것.
• 샘플링 기법 내에서 초기 상태 분포를 다루기 위한 두 가지 새로운 방법을 도입하여 흐린 초기 조건을 가진 모델을 다루는 것.

제안 방법

• 잠재 상태와 매개변수의 공동 사후분포를 목표로 하는 입자 메트로폴리스 내 거시적(_PMwG_) 프레임워크를 제안하며, 입자 MCMC와 거시적 샘플링을 결합한다.
• 상태공간 모델에서 접근 불가능한 우도를 근사하기 위해 입자 필터를 사용하여 잠재 상태에 대한 마진화를 가능하게 한다.
• 다양한 매개변수 블록에 대한 조건부 업데이트를 설계: 일부 그룹은 상태에 조건부로 입자 거시적 샘플링을 통해 업데이트되며, 다른 그룹은 상태에 조건부 없이 업데이트된다. 이는 강한 상태-매개변수 의존성으로 인해 조건부 업데이트가 어려운 경우를 대비한다.
• 상태공간 모델에서 흐린 초기 조건을 다루기 위해 두 가지 특수한 방법을 도입하여 샘플링 효율성과 혼합 성능을 향상시킨다.
• PMwG 샘플러의 균일 에르고딕성을 보장하는 이론적 조건을 수립하여 목표 사후분포로의 수렴을 보장한다.
• 모델의 구조와 매개변수 의존성에 따라 제안 분포를 모듈러하게 설계할 수 있는 일반적인 기법을 활용한다.

실험 결과

연구 질문

• RQ1 표준 입자 메트로폴리스-해스팅스와 입자 거시적 샘플링을 초월하여 PMCMC 기법을 확장할 수 있는 일반적인 샘플링 프레임워크를 어떻게 설계할 수 있는가?
• RQ2 상태공간 모델에서 제안된 PMwG 기법이 목표 사후분포로의 균일 수렴을 보장하는 조건은 무엇인가?
• RQ3 잠재 상태에 대해 매우 높은 의존성을 보이는 매개변수 블록은 상태에 조건부로 설정하지 않고 어떻게 효율적으로 업데이트할 수 있는가?
• RQ4 PMCMC 프레임워크 내에서 상태공간 모델의 흐린 초기 조건을 효과적으로 다루기 위한 전략은 무엇인가?
• RQ5 복잡하고 고차원적인 모델에서 혼합 성능과 효율성을 향상시키기 위해 PMwG 프레임워크는 어떻게 조정할 수 있는가?

주요 결과

• 제안된 PMwG 프레임워크는 약한 정규성 조건 하에서 균일 에르고딕성을 보장하며, 목표 사후분포로의 거의 확실한 수렴을 보장한다.
• 이 방법은 매개변수 블록이 잠재 상태에 조건부로 설정되는지 여부에 따라 유연하게 업데이트할 수 있어 효율적인 샘플링을 가능하게 한다.
• 희미한 초기 조건을 가진 모델에서는 제안된 두 가지 방법이 기존 표준 방법에 비해 혼합 성능을 크게 향상시키고 계산 비용을 감소시킨다.
• 이 프레임워크는 모듈러하고 확장 가능하여 사용자가 특정 모델 구조와 의존성에 맞게 샘플링 기법을 맞춤형으로 설계할 수 있다.
• 실험 결과는 특히 매개변수가 잠재 상태에 매우 강한 의존성을 보일 경우, 상태공간 모델에서 수렴성과 혼합 성능이 향상됨을 보여준다.
• 일반적인 접근 방식은 이론적으로 타당성을 유지하면서도, 복잡하고 비선형적이며 비정규적인 모델에서 실용적인 이점을 제공한다.