[논문 리뷰] Particle Metropolis adjusted Langevin algorithms for state space models

Christopher Nemeth, Paul Fearnhead|arXiv (Cornell University)|2014. 02. 04.

Markov Chains and Monte Carlo Methods참고 문헌 33인용 수 8

한 줄 요약

이 논문은 상태공간 모델에 대해 MCMC 샘플링 효율성을 향상시키기 위해 입자 메트로폴리스 조정 랑주반 알고리즘(pMALA)을 제안한다. 입자 필터로부터 추정한 기울기 정보를 활용함으로써, 표준 랜덤 워크 메트로폴리스 제안 방식에 비해 자동상관도를 감소시키고, 초기화 시간을 단축하며, 제곱 점프 거리를 증가시킨다. Nemeth 등(2013)의 계산적으로 효율적인 방법을 활용하여 기울기 정보를 통합함으로써, 계산 오버헤드를 최소화한다.

ABSTRACT

Particle MCMC is a class of algorithms that can be used to analyse state-space models. They use MCMC moves to update the parameters of the models, and particle filters to propose values for the path of the state-space model. Currently the default is to use random walk Metropolis to update the parameter values. We show that it is possible to use information from the output of the particle filter to obtain better proposal distributions for the parameters. In particular it is possible to obtain estimates of the gradient of the log posterior from each run of the particle filter, and use these estimates within a Langevin-type proposal. We propose using the recent computationally efficient approach of Nemeth et al. (2013) for obtaining such estimates. We show empirically that for a variety of state-space models this proposal is more efficient than the standard random walk Metropolis proposal in terms of: reducing autocorrelation of the posterior samples, reducing the burn-in time of the MCMC sampler and increasing the squared jump distance between posterior samples.

연구 동기 및 목표

• MCMC를 사용하여 상태공간 모델의 매개변수 추론 효율성을 향상시키기 위해.
• 입자 MCMC에서 표준 랜덤 워크 메트로폴리스 제안 방식의 한계를 해결하기 위해.
• 입자 필터에서 유도한 기울기 정보를 활용하여 더 나은 제안 분포를 구성하기 위해.
• 사후 분포 샘플링에서 자동상관도를 감소시키고 초기화 시간을 단축시키기 위해.
• 사후 샘플 간 제곱 점프 거리를 증가시켜 혼합 효율성을 향상시키기 위해.

제안 방법

• 각 반복 동안 입자 필터를 사용하여 사후 분포의 로그 기울기를 추정한다.
• Nemeth 등(2013)의 계산적으로 효율적인 기울기 추정 방법을 적용하여 계산 오버헤드를 감소시킨다.
• 이러한 기울기 추정치를 매개변수 갱신을 위한 랑주반 유형의 제안 분포에 통합한다.
• 입자 메트로폴리스 조정 MCMC 프레임워크와 랑주반 역학을 결합하여 제안 품질을 향상시킨다.
• 유도된 제안을 사용하여 모델 매개변수를 갱신하면서 세부 균형 조건을 유지한다.
• 정확한 사후 샘플링을 보장하기 위해 메트로폴리스-해스팅스 보정을 시행한다.

실험 결과

연구 질문

• RQ1 입자 필터에서 유도한 기울기 추정치가 상태공간 모델에서 MCMC 샘플링 효율성을 향상시키는가?
• RQ2 제안된 pMALA 방법은 표준 랜덤 워크 메트로폴리스에 비해 자동상관도 감소 측면에서 어떻게 비교되는가?
• RQ3 pMALA 방법은 사후 분포 샘플링에서 초기화 시간을 어느 정도 단축시키는가?
• RQ4 기울기 정보의 사용이 사후 샘플 간 제곱 점프 거리를 증가시키는가?
• RQ5 제안된 방법은 다양한 상태공간 모델 구조에 대해 확장 가능하고 효과적인가?

주요 결과

• 제안된 pMALA 방법은 표준 랜덤 워크 메트로폴리스에 비해 사후 샘플의 자동상관도를 감소시킨다.
• 이 방법은 MCMC 샘플러의 초기화 기간을 단축시켜 수렴 속도를 높인다.
• 사후 샘플 간 제곱 점프 거리가 증가하여 혼합 효율성이 향상됨을 나타낸다.
• 입자 필터에서 유도한 기울기 추정치의 사용은 계산적 부담 없이 제안 품질을 향상시킨다.
• 실험 결과는 여러 상태공간 모델에서 일관된 성능 향상을 입증한다.
• 메트로폴리스-해스팅스 보정을 통해 정확한 사후 샘플링을 유지하면서도 샘플링 역학을 향상시킨다.