[논문 리뷰] Scalable Monte Carlo inference for state-space models

Sinan Yıldırım, Christophe Andrieu외 1명|arXiv (Cornell University)|2018. 09. 07.

Simulation Techniques and Applications참고 문헌 25인용 수 5

한 줄 요약

이 논문은 상태공간 모델을 위한 새로운 우도비 추정기법을 제안하며, 공통 조건부 순차 몽테카를로(conditional SMC, cSMC)와 안내된 중요도 샘플링(Annealed Importance Sampling, AIS) 프레임워크를 결합하여 동일한 난수 원천을 공유함으로써 분산을 감소시킨다. 이 방법은 데이터 크기에 비례하여 선형적으로 증가하는 계산 비용을 갖는 새로운 종류의 정확-근사 MCMC 알고리즘을 가능하게 하여, 대규모 데이터셋에서 기존의 PMMH보다 계산 효율성이 뛰어나다.

ABSTRACT

We present an original simulation-based method to estimate likelihood ratios efficiently for general state-space models. Our method relies on a novel use of the conditional Sequential Monte Carlo (cSMC) algorithm introduced in \citet{Andrieu_et_al_2010} and presents several practical advantages over standard approaches. The ratio is estimated using a unique source of randomness instead of estimating separately the two likelihood terms involved. Beyond the benefits in terms of variance reduction one may expect in general from this type of approach, an important point here is that the variance of this estimator decreases as the distance between the likelihood parameters decreases. We show how this can be exploited in the context of Monte Carlo Markov chain (MCMC) algorithms, leading to the development of a new class of exact-approximate MCMC methods to perform Bayesian static parameter inference in state-space models. We show through simulations that, in contrast to the Particle Marginal Metropolis-Hastings (PMMH) algorithm of Andrieu_et_al_2010, the computational effort required by this novel MCMC scheme scales very favourably for large data sets.

연구 동기 및 목표

• 상태공간 모델(SSM)을 위한 확장 가능하고 분산이 낮은 우도비 추정기법을 개발하여 효율적인 베이지안 추론을 가능하게 하기.
• 특히 대규모 데이터셋에서의 우도 평가가 계산적으로 불가능한 문제를 해결하기.
• 데이터 크기에 따라 유리하게 스케일링되면서도 정확한 주변 균형을 유지하는 MCMC 알고리즘 설계.
• cSMC-AIS에서 공유되는 난수의 분산 감소 성질을 활용하여 샘플링 효율성 향상.
• 기존의 PMMH와 같은 접근 방식에 비해 혼합성과 계산 비용 측면에서 본 방법의 우수성을 입증하기.

제안 방법

• 공통 조건부 SMC(cSMC)와 안내된 중요도 샘플링(AIS)을 결합하여, 분리된 분모와 분자를 각각 별도로 추정하는 대신 동일한 난수 원천을 공유함으로써 우도비를 공동으로 추정한다.
• cSMC-BS 프레임워크에서 후방 샘플링 단계를 활용하여 우도비 추정기의 품질을 향상시키고 분산을 감소시킨다.
• 이 추정기법을 MCMC 알고리즘에 통합하여 정적 매개변수와 잠재 상태의 공동 사후분포를 대상으로 하는 새로운 정확-근사 MCMC 체계를 구성한다.
• 알고리즘은 cSMC 커널을 활용해 잠재 상태의 제안을 생성하며, 중요도 가중치는 AIS 경로에서 유도된다.
• 매개변수 값 θ와 θ′ 간의 거리가 작아질수록 우도비 추정기의 분산이 감소하도록 방법을 설계하였다.
• 선형 가우시안 상태공간 모델에 대한 시뮬레이션을 통해 PMMH 및 MwPG와의 성능 비교를 통해 방법을 검증하였다.

실험 결과

연구 질문

• RQ1 cSMC-AIS에서 공유되는 난수를 활용한 우도비의 공동 추정이 독립적 추정에 비해 분산을 감소시키는가?
• RQ2 기존의 PMMH가 제곱형으로 증가하는 것과는 달리, 제안된 MCMC 알고리즘이 데이터 포인트 수 T에 대해 선형적으로 스케일링되는가?
• RQ3 정적 매개변수의 통합 자기상관시간(IAC) 측면에서 새로운 MCMC 체계가 PMMH 및 MwPG에 비해 성능이 뛰어나게 되는가?
• RQ4 θ와 θ′ 간의 거리가 줄어들수록 우도비 추정기의 분산이 감소하여 더 효율적인 MCMC 탐색이 가능한가?
• RQ5 cSMC-AIS 프레임워크를 활용해 세부 균형과 정확한 주변 균형을 유지하는 정확-근사 MCMC 알고리즘을 구성할 수 있는가?

주요 결과

• MCMC AIS cSMC-BS 알고리즘은 PMMH보다 훨씬 낮은 통합 자기상관시간(IAC)을 보이며, K=1 및 N₀=500일 때 σ²_v의 중앙값 IAC는 17.7, σ²_w는 20.9이다.
• 대규모 T(예: T=10,000)에서 PMMH의 IAC는 급격히 증가한다(예: σ²_v의 경우 7,368), 반면 MCMC AIS cSMC-BS는 IAC가 약 17.6로 안정적으로 유지되어 우수한 확장성 잠재력을 보인다.
• MCMC AIS cSMC-BS는 모든 테스트된 T 및 N 설정에서 MwPG보다 낮은 IAC를 기록하여 일관되게 성능이 뛰어나다.
• θ와 θ′ 간의 거리가 작아질수록 우도비 추정기의 분산이 감소하여 더 효율적인 MCMC 업데이트가 가능하다.
• 이론적 분석에 따르면, 이론적 i.i.d. 케이스에서 예측한 것처럼, 본 방법은 T에 대해 계산 비용이 선형적으로 증가하는 반면, 기존의 표준 PMMH는 제곱형으로 증가한다.
• 실험 결과에 따르면 cSMC-BS 단계가 성능 향상에 결정적인 역할을 하며, 후방 샘플링이 없는 MCMC AIS cSMC보다 MCMC AIS cSMC-BS가 뛰어난 성능을 보였다.