[논문 리뷰] Particle ancestor sampling for near-degenerate or intractable state transition models

Fredrik Lindsten, Pete Bunch외 2명|arXiv (Cornell University)|2015. 05. 23.

Statistical Methods and Bayesian Inference참고 문헌 39인용 수 15

한 줄 요약

이 논문은 거의 분해되거나 구현이 불가능한 상태 전이 핵을 가진 비선형 상태공간 모델에서 베이지안 추론 문제를 해결하기 위해 재생(rejuvenation)을 통한 입자 조상 샘플링을 제안한다. 문제적인 역방향 핵에서의 시뮬레이션을 미래 상태 변수들의 동시 추출로 대체함으로써, 효과적인 전진-역방향 스무딩이 가능해지고, 추적, 역학, 경제학 등 도전적인 모델로의 적용 범위가 확장된다. 이는 입자 MCMC 및 게이블스 샘플링 프레임워크 내에서 성능을 크게 향상시킨다.

ABSTRACT

We consider Bayesian inference in sequential latent variable models in general, and in nonlinear state space models in particular (i.e., state smoothing). We work with sequential Monte Carlo (SMC) algorithms, which provide a powerful inference framework for addressing this problem. However, for certain challenging and common model classes the state-of-the-art algorithms still struggle. The work is motivated in particular by two such model classes: (i) models where the state transition kernel is (nearly) degenerate, i.e. (nearly) concentrated on a low-dimensional manifold, and (ii) models where point-wise evaluation of the state transition density is intractable. Both types of models arise in many applications of interest, including tracking, epidemiology, and econometrics. The difficulties with these types of models is that they essentially rule out forward-backward-based methods, which are known to be of great practical importance, not least to construct computationally efficient particle Markov chain Monte Carlo (PMCMC) algorithms. To alleviate this, we propose a "particle rejuvenation" technique to enable the use of the forward-backward strategy for (nearly) degenerate models and, by extension, for intractable models. We derive the proposed method specifically within the context of PMCMC, but we emphasise that it is applicable to any forward-backward-based Monte Carlo method.

연구 동기 및 목표

• 상태 전이 핵이 거의 분해되거나 구현이 불가능한 상태공간 모델에서의 베이지안 추론 문제를 해결하기 위해.
• 역방향 핵이 분해되거나 구현이 불가능할 경우 실패하는 전진-역방향 스무딩 방법의 한계를 극복하기 위해.
• 이러한 모델에서 효과적인 전진-역방향 전략을 사용할 수 있도록 입자 재생 기법을 개발하기 위해.
• 이해할 수 없는 또는 분해되는 전이를 가진 모델로의 입자 마르코프 체인 몬테카를로(PMCMC) 및 게이블스 샘플링의 적용 범위를 확장하기 위해.
• PMCMC에 국한되지 않고 복잡한 동적 시스템에서의 추론을 지원하는 강력하고 일반적인 방법을 제공하기 위해.

제안 방법

• 문제적인 역방향 핵에서 직접 시뮬레이션을 대체하기 위해 미래 상태 변수들에 대한 동시 추출을 사용하는 입자 재생 기법을 도입하여 혼합성과 안정성을 향상시키기 위해.
• 역방향 핵보다 덜 분해되는 미래 상태 변수들의 부분 집합에 대한 연합 밀도를 구성하여 더 효과적인 재표본화를 가능하게 하기 위해.
• 이해할 수 없는 전이 밀도를 처리하기 위해 근사 베이지안 계산(ABC) 접근법을 사용하여 전이 핵을 거의 분해되는 대체 모델로 근사하기 위해.
• 세부 균형과 정확한 극한 분포를 유지하기 위해 재생 단계를 입자 게이블스와 조상 재표본화(PGAS) 알고리즘에 통합하기 위해.
• 연합 상태 분포의 구조를 활용하여 목표 스무딩 분포를 유지하면서 효율적인 조상 샘플링을 가능하게 하기 위해.
• 제안된 마르코프 핵에 기반하여 부분적으로 축소된 게이블스 샘플러로 방법을 공식화하여 유효성과 이론적 일致성을 보장하기 위해.

실험 결과

연구 질문

• RQ1 재생을 통한 입자 조상 샘플링은 거의 분해되는 상태 전이 핵을 가진 상태공간 모델을 효과적으로 다룰 수 있는가?
• RQ2 제안된 방법은 이해할 수 없는 전이 밀도를 가진 모델로 전진-역방향 스무딩의 적용 범위를 확장할 수 있는가?
• RQ3 입자 재생 기법은 입자 MCMC 및 게이블스 샘플링 알고리즘에서 혼합성과 수렴성을 어떻게 향상시키는가?
• RQ4 이해할 수 없는 전이에 대해 ABC 근사를 사용할 경우 추론의 정확성과 안정성에 어떤 영향을 미치는가?
• RQ5 재생 전략은 제한 없이 기존의 PMCMC 및 PGAS 프레임워크에 통합될 수 있는가, 극한 분포의 정확성이 손상되지 않는가?

주요 결과

• 제안된 입자 재생 기법은 기존 방법이 실패하는 거의 분해되는 전이 핵을 가진 모델에서 전진-역방향 스무딩을 성공적으로 가능하게 한다.
• 합리적인 마르코프 핵을 연합 상태 변수 위에 구성함으로써 세부 균형과 정확한 극한 분포를 유지한다.
• 실험 결과는 조상 샘플링 가중치의 근사 오차에 대해 강건함을 보이며, 모델 불확실성 하에서도 실용적인 안정성을 시사한다.
• 이해할 수 없는 전이의 ABC 근사는 전이 밀도가 닫힌 형태로 평가할 수 없는 모델에서 재생을 사용할 수 있도록 한다.
• 이 방법은 가능성의 과대평가 문제를 완화함으로써 입자 MCMC의 성능을 향상시킨다.
• 이 방법은 PMCMC나 게이블스 샘플링에 국한되지 않고, 전진-역방향 기반의 몬테카를로 방법 전반에 일반적으로 적용 가능하다.