[논문 리뷰] Efficient Bayesian Inference for Switching State-Space Models using Discrete Particle Markov Chain Monte Carlo Methods

Nick Whiteley, Christophe Andrieu외 1명|arXiv (Cornell University)|2010. 11. 10.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 34인용 수 54

한 줄 요약

이 논문은 전이 상태공간 모델(Switching State-Space Models, SSSMs)에서 효율적인 베이지안 추론을 가능하게 하는 전용 이산 입자 필터를 활용한 이산 입자 마르코프 체인 몬테 카를로(Discrete Particle Markov Chain Monte Carlo, PMCMC) 방법을 제안한다. 잠재 상태의 이산성 특성을 활용하고 새로운 후행 샘플링 절차를 도입함으로써, 고정된 계산 비용에서 최신 기술 대비 뛰어난 혼합성과 수렴성을 달성하며, 병렬 처리 가능성도 갖춘다.

ABSTRACT

Switching state-space models (SSSM) are a very popular class of time series models that have found many applications in statistics, econometrics and advanced signal processing. Bayesian inference for these models typically relies on Markov chain Monte Carlo (MCMC) techniques. However, even sophisticated MCMC methods dedicated to SSSM can prove quite inefficient as they update potentially strongly correlated discrete-valued latent variables one-at-a-time (Carter and Kohn, 1996; Gerlach et al., 2000; Giordani and Kohn, 2008). Particle Markov chain Monte Carlo (PMCMC) methods are a recently developed class of MCMC algorithms which use particle filters to build efficient proposal distributions in high-dimensions (Andrieu et al., 2010). The existing PMCMC methods of Andrieu et al. (2010) are applicable to SSSM, but are restricted to employing standard particle filtering techniques. Yet, in the context of discrete-valued latent variables, specialised particle techniques have been developed which can outperform by up to an order of magnitude standard methods (Fearnhead, 1998; Fearnhead and Clifford, 2003; Fearnhead, 2004). In this paper we develop a novel class of PMCMC methods relying on these very efficient particle algorithms. We establish the theoretical validy of this new generic methodology referred to as discrete PMCMC and demonstrate it on a variety of examples including a multiple change-points model for well-log data and a model for U.S./U.K. exchange rate data. Discrete PMCMC algorithms are shown to outperform experimentally state-of-the-art MCMC techniques for a fixed computational complexity. Additionally they can be easily parallelized (Lee et al., 2010) which allows further substantial gains.

연구 동기 및 목표

• 일반적인 MCMC 방법이 이산 잠재 상태를 한 개씩 갱신함으로써 혼합 속도가 느려지는 SSSMs에서의 비효율성을 해결한다.
• SSSM에서 고차원 이산 잠재 경로에 대한 정확한 조건부 추론의 계산 비가용성을 극복한다.
• 표준 입자 필터보다 이산값을 가진 잠재 과정에 대해 우수한 성능을 보이는 전용 이산 입자 필터링 기법(예: 이산 입자 필터)을 활용한다.
• 이러한 효율적인 입자 필터를 제안 기반으로 하는 새로운 PMCMC 알고리즘 클래스—이산 PMCMC—을 개발한다.
• 후행 샘플링을 통한 이론적 타당성을 확립하고, 표준 MCMC 가정 하에 수렴성과 에르고딕성을 증명한다.

제안 방법

• 이산 입자 필터(DPF)를 제안 기반 메커니즘으로 통합하여 SSSMs에 특화된 새로운 PMCMC 프레임워크를 제안한다.
• 잠재 상태 경로와 이산 상태 수열의 결합 사후분포를 함께 타겟으로 하는 후행 샘플링을 사용하여 혼합성을 향상시킨다.
• 지수적으로 증가하는 상태 공간에서 랜덤 프루닝 메커니즘을 사용함으로써 중요도 샘플링을 피하는 입자 필터를 구축한다.
• 조건부 DPF 갱신을 적용하여 잠재 경로에 대한 제안을 생성함으로써, 목표 사후분포와 일관성을 확보한다.
• 잠재 상태와 이산 상태 수열을 조건부로 갱신하는 복합 지스 샘플러 프레임워크에 DPF 기반 제안을 통합한다.
• 이론적 타당성을 확보하기 위해, 결과로 생성된 마르코프 체인이 올바른 사후분포를 타겟으로 하고, 미약한 조건 하에 비가역성과 비주기성을 만족함을 증명한다.

실험 결과

연구 질문

• RQ1 이산 입자 필터링 기법은 PMCMC 알고리즘에 효과적으로 통합되어 SSSMs에서의 샘플링 효율성을 향상시킬 수 있는가?
• RQ2 제안된 이산 PMCMC 방법은 고정된 계산 비용에서 표준 MCMC 및 기존 PMCMC 방법에 비해 수렴 속도와 유효 표본 크기 측면에서 뛰어나게 되는가?
• RQ3 이산 PMCMC에서의 후행 샘플링 절차는 고차원 이산 상태 공간에서 진정한 사후분포로의 혼합성과 수렴성을 보장할 수 있는가?
• RQ4 이산 PMCMC의 성능는 데이터 길이 증가에 따라 어떻게 변화하며, 입자 수 $N$의 영향은 정확도와 효율성에 어떤 영향을 미치는가?
• RQ5 제안된 방법은 어느 정도까지 병렬화가 가능하며, 병렬 실행을 통해 어떤 성능 향상이 기대되는가?

주요 결과

• 고정된 계산 예산에서 이산 PMCMC 방법은 최신 기술 대비 유효 표본 크기와 수렴 속도 측면에서 뛰어난 성능을 보였다.
• 이산값을 가진 잠재 과정에 적용했을 때, 표준 입자 필터 기반 PMCMC에 비해 효율성에서 최대 한 계단수 개선을 달성했다.
• 웰로그 데이터 및 환율 데이터에 대한 실증 결과는, 이산 PMCMC가 한 번에 하나씩 상태를 갱신하는 방법보다 더 정확한 사후 추정과 더 빠른 혼합을 제공함을 확인했다.
• 후행 샘플링 절차는 이론적으로 증명된 바와 같이, 알고리즘이 올바른 결합 사후분포를 타겟으로 함을 보장한다.
• 표준 MCMC 정규성 조건 하에서 알고리즘이 증명된 바와 같이 비가역성과 비주기성을 만족하므로, 불변 분포로 수렴함을 보장한다.
• 알고리즘은 효율적으로 병렬화가 가능하여, 고차원 또는 장수열 설정에서 추가 성능 향상을 이룰 수 있다.