[논문 리뷰] Flexible Particle Markov chain Monte Carlo methods with an application to a factor stochastic volatility model

Eduardo Mendes, Chris Carter외 2명|arXiv (Cornell University)|2014. 01. 08.

Statistical Methods and Bayesian Inference참고 문헌 41인용 수 4

한 줄 요약

이 논문은 입자 마르코프 체인 몬테 카를로(PMCMC) 프레임워크를 유연하게 제안하며, 입자 조건부 메트로폴리스-하스팅스, 입자 지브스, 입자 메트로폴리스-내부 지브스 샘플링을 통합하여 통합된 방법으로 제시한다. 이는 다양한 매개변수 그룹에 대해 상태에 조건부로 설정하는 방식으로 적응형 샘플링을 가능하게 하여, 특히 인과적 확률적 볼라티리티 모델에서 강한 상관관계가 존재할 경우 수렴성을 향상시킨다.

ABSTRACT

Particle Markov Chain Monte Carlo methods are used to carry out inference in non-linear and non-Gaussian state space models, where the posterior density of the states is approximated using particles. Current approaches usually perform Bayesian inference using a particle Marginal Metropolis-Hastings algorithm, a particle Gibbs sampler, or a particle Metropolis within Gibbs sampler. This paper shows how the three ways of generating variables mentioned above can be combined in a flexible manner to give sampling schemes that converge to a desired target distribution. The advantage of our approach is that the sampling scheme can be tailored to obtain good results for different applications, for example when some parameters and the states are highly correlated. We investigate the properties of this flexible sampling scheme, including conditions for uniform convergence to the posterior. We illustrate our methods with a factor stochastic volatility state space model where one group of parameters can be generated in a straightforward manner in a particle Gibbs step by conditioning on the states, and a second group of parameters are generated without conditioning on the states because of the high dependence between such parameters and the states.

연구 동기 및 목표

• 강한 상관관계로 인해 비선형 및 비정규 상태공간 모델에서 MCMC 샘플링이 비효율적인 문제를 해결하기 위해.
• 다양한 PMCMC 방법을 통합하여 혼합성과 수렴성을 향상시키는 통합 샘플링 프레임워크를 개발하기 위해.
• 제안된 방법이 목표 사후분포로의 균일 에르고딕성과 수렴성을 보장하는 조건을 제공하기 위해.
• 다른 종속성 구조를 보이는 매개변수 그룹을 가진 인과적 확률적 볼라티리티 모델에서 방법의 효과성을 입증하기 위해.

제안 방법

• 프레임워크는 입자 조건부 메트로폴리스-하스팅스, 입자 지브스, 입자 메트로폴리스-내부 지브스 샘플러를 하나의 적응형 MCMC 방법으로 통합한다.
• 매개변수 그룹의 잠재 상태와의 종속성 구조에 따라 다른 샘플링 전략을 적용할 수 있도록 한다.
• 상태와 조건부로 독립적인 매개변수의 경우, 상태에 조건부로 설정하지 않고도 직접 샘플링하기 위해 입자 지브스를 사용한다.
• 높은 종속성을 보이는 매개변수의 경우, 상태에 조건부로 설정하는 것을 피하고 입자 기반 제안을 통해 혼합성을 향상시킨다.
• 이 방법은 세부 균형을 유지하고 미약한 정규성 조건 하에서 진짜 사후분포로의 수렴을 보장하도록 설계되어 있다.
• 이 방법은 순차적 몬테 카를로(SMC)를 활용하여 상태의 주변 가능도와 사후분포를 근사한다.

실험 결과

연구 질문

• RQ1 어떻게 입자 MCMC 방법을 민첩하게 통합하여 매개변수-상태 상관관계가 높은 상태공간 모델에서 샘플링 효율성을 향상시킬 수 있는가?
• RQ2 제안된 하이브리드 PMCMC 방법이 목표 사후분포로의 균일 에르고딕성과 수렴성을 보장하는 조건은 무엇인가?
• RQ3 다른 매개변수 그룹에 대해 상태에 대한 선택적 조건부 설정이 복잡한 모델에서 혼합성과 수렴성을 어떻게 향상시키는가?
• RQ4 다른 종속성 패턴을 가진 잠재 상태에 대해 매개변수 그룹이 존재하는 인과적 확률적 볼라티리티 모델에서 이 방법은 어떻게 성능을 발휘하는가?

주요 결과

• 제안된 민감한 PMCMC 방법은 매개변수와 상태 간의 종속성 구조에 맞춰 샘플링 전략을 적응함으로써 수렴성과 혼합성을 향상시킨다.
• 이 방법은 미약한 정규성 조건 하에서도 균일 에르고딕성을 보장하여 목표 사후분포로의 수렴을 보장한다.
• 인과적 확률적 볼라티리티 모델에서, 이 방법은 두 가지 다른 매개변수 그룹을 효과적으로 처리한다: 하나는 상태에 조건부로 설정하여 입자 지브스로 효율적으로 샘플링하고, 다른 하나는 높은 종속성으로 인해 상태에 조건부로 설정하지 않고 샘플링한다.
• 하이브리드 접근법은 전통적 샘플러에서 매개변수-상태 상관관계로 인해 혼합성이 떨어지는 상황에서 표준 PMCMC 방법보다 뛰어난 성능을 발휘한다.