[논문 리뷰] An extended space approach for particle Markov chain Monte Carlo methods

Chris Carter, Eduardo Mendes외 1명|arXiv (Cornell University)|2014. 06. 23.

Markov Chains and Monte Carlo Methods참고 문헌 7인용 수 7

한 줄 요약

이 논문은 상태공간 모델 추론을 향상시키기 위해 각 시점에서 MCMC를 통해 추가 상태를 생성함으로써 확장된 상태공간 접근법을 제안한다. 이는 기존 방법들과 동일한 메트로폴리스 수용 확률을 유지하면서도, 스무딩 및 매개변수 추론에서 혼합성과 효율성을 향상시킨다. 실험 결과로는 백워드 시뮬레이션 및 파티클 지브스 방법 대비 더 빠른 수렴 속도와 낮은 비효율성 요인을 보였다.

ABSTRACT

In this paper we consider fully Bayesian inference in general state space models. Existing particle Markov chain Monte Carlo (MCMC) algorithms use an augmented model that takes into account all the variable sampled in a sequential Monte Carlo algorithm. This paper describes an approach that also uses sequential Monte Carlo to construct an approximation to the state space, but generates extra states using MCMC runs at each time point. We construct an augmented model for our extended space with the marginal distribution of the sampled states matching the posterior distribution of the state vector. We show how our method may be combined with particle independent Metropolis-Hastings or particle Gibbs steps to obtain a smoothing algorithm. All the Metropolis acceptance probabilities are identical to those obtained in existing approaches, so there is no extra cost in term of Metropolis-Hastings rejections when using our approach. The number of MCMC iterates at each time point is chosen by the used and our augmented model collapses back to the model in Olsson and Ryden (2011) when the number of MCMC iterations reduces. We show empirically that our approach works well on applied examples and can outperform existing methods.

연구 동기 및 목표

• 기존 MCMC 방법이 비효율적이거나 수치 근사가 필요한 일반적인 비정규 상태공간 모델에 대해 완전한 베이지안 추론 방법을 개발하는 것.
• 기존 파티클 MCMC 방법이 파티클 필터 출력에만 샘플링을 제한하는 한계를 극복하기 위해, 확장된 모델에서 MCMC로 생성된 상태를 도입하는 것.
• 기존 PMCMC 방법들과 동일한 메트로폴리스 수용 확률을 유지하면서도 상태 경로의 더 유연하고 효율적인 샘플링을 가능하게 하는 것.
• 마르코프 체인 몽테카를로 샘플링에서 상태 및 매개변수 추론을 위한 혼합성 향상과 통합 자기상관시간(IAC) 감소를 위한 것.
• 백워드 시뮬레이션 및 파티클 지브스와 같은 기존 접근법을 일반화하는 통합 프레임워크를 제공하며, 각 시점당 사용자가 조절할 수 있는 MCMC 반복 횟수를 허용하는 것.

제안 방법

• 각 시점에서 파이프라인 필터 출력, 조상 추적 인덱스, MCMC로 생성된 상태를 포함하는 확장된 모델을 구축한다.
• 순차적 몽테카를로 방법을 사용하여 상태 벡터의 사후분포를 근사하며, 각 시점에서 MCMC 실행을 통해 새로운 상태 값을 생성한다.
• 확장된 공간에서의 공동분포를 정의하여, 샘플링된 상태의 주변분포가 상태 벡터의 진짜 사후분포와 일치하도록 한다.
• 확장된 공간에서 입자 독립 메트로폴리스-해스팅스 또는 입자 지브스 샘플링을 적용하며, 기존 PMCMC 방법들과 동일한 수용 확률을 보장한다.
• 백워드 시뮬레이션 단계에서 새로운 상태 경로를 생성함으로써 스무딩을 가능하게 하며, 파이프라인 필터 출력에 의존하지 않는다.
• 각 시점당 MCMC 반복 횟수를 사용자가 조정할 수 있으며, 반복 횟수가 1로 감소할 경우 올슨 및 라덴(2011)의 방법으로 수렴한다.

실험 결과

연구 질문

• RQ1 각 시점에서 MCMC로 생성된 상태가 상태공간 모델에 대한 파티클 MCMC 샘플링의 혼합성과 비효율성을 향상시키는가?
• RQ2 확장된 공간 접근법이 기존 PMCMC 방법들과 동일한 메트로폴리스 수용 확률을 유지하면서도 더 민감한 상태 샘플링을 가능하게 하는가?
• RQ3 통합 자기상관시간(IAC) 측면에서 제안된 방법이 백워드 시뮬레이션 및 파티클 지브스 방법보다 성능이 뛰어나게 되는가?
• RQ4 기존 방법들 대비 더 적은 수의 입자로도 낮은 IAC를 달성할 수 있는가?
• RQ5 각 시점당 MCMC 반복 횟수를 변화시킬 경우 샘플링 효율성과 수렴 속도에 어떤 영향을 미치는가?

주요 결과

• 확장된 공간 파티클 지브스 샘플러는 스토하스틱 볼라티리티 모델에서 N=5개의 입자와 C=10회의 MCMC 이동을 사용할 때 최소 비효율성 요인(IAC) 6.04를 달성하며, 기준 방법들을 능가한다.
• 이항 회귀 모델의 경우, 새로운 방법은 N=40 및 C=30에서 최소 IAC를 달성하지만, 백워드 시뮬레이션은 약 N≈250개의 입자가 필요로 하여 유사한 성능를 달성한다.
• 확장된 공간 접근법은 백워드 시뮬레이션 방법보다 입자 수 증가에 따라 IAC 감소 속도가 더 빠르며, 최적 효율성에 더 빨리 수렴함을 보여준다.
• Julia 기반 구현에서, 동일한 IAC 수준에 도달할 때 백워드 시뮬레이션 대비 계산 시간이 2배로 단축됨을 확인하였다.
• 기존 PMCMC 방법들과 동일한 메트로폴리스 수용 확률을 유지함으로써, 더 넓은 상태공간 탐색에도 불구하고 추가적인 기각 비용 없이도 성능 향상을 달성한다.
• 실험 결과로는 고차원적이거나 비정규 상태공간 모델에서 특히 더 효율적인 마르코프 체인을 생성하고 혼합성이 향상됨을 확인하였다.