[논문 리뷰] Importance sampling type correction of Markov chain Monte Carlo and exact approximations

Matti Vihola, Jouni Helske외 1명|arXiv (Cornell University)|2016. 09. 08.

Markov Chains and Monte Carlo Methods인용 수 3

한 줄 요약

이 논문은 MCMC가 근사적인 주변 분포에서 실행될 때 연합 분포에 대한 일致성 있는 추론을 달성하기 위해 근사적인 마르코프 체인 몽테카를로(MCMC) 출력에 대한 중요도 표본추출(IS) 유형의 보정을 제안한다. 비편향 추정기들을 활용함으로써, 이 방법은 간단한 병렬 처리를 가능하게 하며, 특히 입자 스무스터를 사용하는 상태공간 모델에서 계산 효율성과 분산 제어 면에서 지연 수락 MCMC를 능가한다.

ABSTRACT

We use an importance sampling (IS) type correction of approximate Markov chain Monte Carlo (MCMC) output in order to provide consistent estimators. The IS approach, based on unbiased estimators, provides often a natural alternative to delayed acceptance (DA) MCMC, but contrary to DA-MCMC, benefits from straightforward parallelisation. We focus on the case where the MCMC simulation is conducted on an approximate marginal distribution, and the IS type correction leads to consistent inference on the corresponding joint distribution. Such a case allows for importance sampling analogues of pseudo-marginal type MCMC methods, such as the grouped independence Metropolis-Hastings and the particle marginal Metropolis-Hastings. We prove strong consistency of the suggested estimators under mild assumptions, and provide central limit theorems with expressions for asymptotic variances. The methods are illustrated in practice with state space models, where we also remind that IS correction provides an easy way to combine several independent particle smoothers in order to obtain a consistent estimator with natural confidence intervals. Our experimental results are promising and show that IS type approach can be favourable against a computationally comparable DA scheme.

연구 동기 및 목표

• 근사 MCMC 방법이 편향된 주변 분포에서 표본을 추출할 때 발생하는 일치성 문제를 해결하기 위해.
• MCMC가 근사 타겟에 적용될 때 연합 분포에 대한 일致성 있는 추론 프레임워크를 개발하기 위해.
• 지연 수락 MCMC보다 더 나은 병렬 처리 지원을 제공하는 계산 효율적인 대안을 제공하기 위해.
• 그룹화된 독립 메트로폴리스-해스팅스 및 입자 마진형 메트로폴리스-해스팅스와 같은 의사-마진형 MCMC 방법들로 이 방법을 확장하기 위해.
• 강한 일치성과 점근 정규성을 포함한 이론적 보장을 수립하고, 명시적인 분산 표현식을 제공하기 위해.

제안 방법

• 진짜 밀도와 근사 밀도의 비율에서 유도된 중요도 가중치를 사용하여, 근사 주변 분포에서 생성된 MCMC 샘플을 보정하기 위해 중요도 표본추출을 적용한다.
• 진짜 연합 분포 하에서의 기대값을 추정하기 위해, 진짜 밀도와 근사 밀도의 비율에서 유도된 중요도 가중치로 MCMC 샘플을 가중하는 일관된 추정기들을 구성한다.
• 의사-마진형 MCMC의 구조를 활용하여, 그룹화된 독립 메트로폴리스-해스팅스 및 입자 마진형 메트로폴리스-해스팅스와 유사한 중요도 표본추출 방법들을 유도한다.
• 근사 및 제안 메커니즘에 대한 미약한 정규성 조건 하에서 강한 일치성을 증명함으로써 이론적 타당성을 확보한다.
• 점근 분산에 대한 명시적인 표현식을 유도하여 중심극한정리와 함께, 신뢰구간을 포함한 추론을 가능하게 한다.
• 상태공간 모델에서 독립적인 입자 스무스터를 활용하고, 중요도 표본추출 보정을 통해 일관된 추정기와 자연스러운 분산 추정을 형성한다.

실험 결과

연구 질문

• RQ1 MCMC가 근사 주변 분포에서 실행될 때, 중요도 표본추출 보정이 진짜 연합 분포 하에서 기대값을 일관되게 복원할 수 있는가?
• RQ2 제안된 IS 보정은 지연 수락 MCMC와 비교해 계산 효율성과 분산 성능 면에서 어떻게 다른가?
• RQ3 IS 보정은 그룹화된 독립 메트로폴리스-해스팅스 및 입자 마진형 메트로폴리스-해스팅스와 같은 의사-마진형 MCMC 방법들로 자연스럽게 확장될 수 있는가?
• RQ4 미약한 가정 하에서, 보정된 추정기의 이론적 성질—강한 일치성과 점근 정규성—은 무엇인가?
• RQ5 상태공간 모델에서 여러 개의 독립 입자 스무스터를 IS 보정을 통해 조합하여 일관된 추정기와 신뢰할 수 있는 신뢰구간을 도출할 수 있는가?

주요 결과

• 제안된 IS 보정은 MCMC가 근사 주변 분포에서 실행될 때 진짜 연합 분포 하에서 기대값에 대한 강한 일치성 추정기를 제공한다.
• 이 방법은 점근 분산에 대한 명시적인 표현식을 제공하여 유효한 신뢰구간과 통계적 추론을 가능하게 한다.
• IS 접근법은 간단한 병렬 처리를 지원하여, 지연 수락 MCMC에 비해 실용적 이점이 있다.
• 상태공간 모델에서, 여러 개의 독립 입자 스무스터를 IS 보정을 통해 조합하면 자연스러운 신뢰구간을 갖는 일관된 추정기가 도출된다.
• 실험 결과는 IS 방법이 분산과 효율성 측면에서 계산적으로 유사한 지연 수락 방법보다 뛰어나다는 것을 보여준다.