[논문 리뷰] CONVERGENCE OF SEQUENTIAL MONTE CARLO-BASED SAMPLING METHODS

Jonathan H. Huggins, Daniel M. Roy|arXiv (Cornell University)|2015. 03. 03.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 19인용 수 7

한 줄 요약

이 논문은 목표 사후분포와 기대되는 SMC 근사값 사이의 쿨백-라이블러 발산을 분석하여 순차 몽테카를로(SMC) 샘플링 방법의 수렴 속도를 확립한다. 1-ESS 유효 표본 크기와 적응형 조건부 SMC 제안법을 도입함으로써 적응형 SMC 및 입자 길버트 샘플러에 대한 증명 가능한 수렴 경계를 가능하게 한다.

ABSTRACT

Originally designed for state-space models, Sequential Monte Carlo (SMC) methods are now routinely applied in the context of general-purpose Bayesian inference. Traditional analyses of SMC algorithms have focused on their application to estimating expectations with respect to intractable distri- butions such as those arising in Bayesian analysis. However, these algorithms can also be used to obtain approximate samples from a posterior distribution of interest. We investigate the asymptotic and non-asymptotic convergence rates of SMC from this sampling viewpoint. In particular, we study the ex- pectation of the particle that SMC produces as the number of particles tends to innity. This \expected approximation is equivalent to the law of a sample drawn from the SMC approximation. We give convergence rates of the Kullback-Leibler divergence between the target and the expected approximation. Our results apply to both deterministic and adaptive resam- pling schemes. In the adaptive setting, we introduce a novel notion of eective sample size, the 1-ESS, and show that controlling this quantity ensures sta- bility of the SMC sampling algorithm. We also introduce an adaptive version of the conditional SMC proposal, which allows us to prove quantitative bounds for rates of convergence for adaptive versions of iterated conditional sequential Monte Carlo Markov chains and associated adaptive particle Gibbs samplers.

연구 동기 및 목표

• 기대값 추정을 넘어서 사후분포에 대한 샘플링 도구로 SMC 방법의 수렴을 분석하는 것.
• 진짜 사후분포에 대한 기대되는 SMC 근사값의 점근적 및 비점근적 수렴 속도를 유도하는 것.
• 적응형 SMC 알고리즘의 안정성을 보장하기 위한 새로운 유효 표본 크기 측정법인 1-ESS를 도입하는 것.
• 반복적 SMC 및 입자 길버트 샘플러 설정에서 정량적 수렴 경계를 가능하게 하는 적응형 조건부 SMC 제안법을 개발하는 것.
• SMC 기반 추론에서 적응형 재표본화 및 제안 체계에 대한 이론적 보장을 확장하는 것.

제안 방법

• SMC 출력에서의 표본의 법칙으로서 기대되는 SMC 근사값을 다루며, 이를 무작위 측도로 간주한다.
• 목표 사후분포와 기대되는 SMC 근사값 사이의 거리를 측정하기 위해 쿨백-라이블러 발산을 사용한다.
• 적응형 재표본화에서의 안정성을 제어하기 위해 1-ESS라는 새로운 유효 표본 크기 측정법을 도입한다.
• 반복적 SMC 및 입자 길버트 환경에서 수렴을 향상시키기 위해 조건부 SMC 제안법의 적응형 버전을 제안한다.
• 새로운 제안법과 1-ESS를 사용하여 적응형 반복 조건부 SMC 및 입자 길버트 샘플러에 대한 정량적 수렴 경계를 도출한다.
• 이론적 강건성을 확보하기 위해 결정론적 및 적응형 재표본화 체계에 모두 이 프레임워크를 적용한다.

실험 결과

연구 질문

• RQ1 후보 사후분포에서 샘플링에 사용될 때 SMC 방법의 수렴 속도는 무엇인가?
• RQ2 입자 수가 증가함에 따라 기대되는 SMC 근사값은 어떻게 행동하는가?
• RQ3 새로운 유효 표본 크기 측정법인 1-ESS는 적응형 SMC 알고리즘의 안정성을 보장할 수 있는가?
• RQ4 제안 메커니즘에 어떤 조건이 성립해야 적응형 SMC 및 입자 길버트 샘플러에서 수렴이 보장되는가?
• RQ5 적응형 반복 조건부 SMC 및 입자 길버트 방법에 대해 정량적 수렴 경계를 설정할 수 있는가?

주요 결과

• 입자 수가 증가함에 따라 목표 사후분포와 기대되는 SMC 근사값 사이의 쿨백-라이블러 발산이 정량적으로 측정 가능한 속도로 수렴한다.
• 1-ESS 유효 표본 크기 측정법은 재표본화 행동을 제어함으로써 적응형 SMC 알고리즘의 안정성을 보장한다.
• 적응형 조건부 SMC 제안법은 반복 조건부 SMC 및 입자 길버트 샘플러에 대해 증명 가능한 수렴 경계를 가능하게 한다.
• 결정론적 및 적응형 재표본화 체계에 대해 수렴 속도가 확립되어 이론적 보장이 적응 설정으로 확장된다.
• 이 프레임워크는 기대값 추정을 넘어서 일반 베이지안 추론에서 SMC를 샘플링 도구로 사용하기 위한 이론적 기반을 제공한다.
• 결과는 상태공간 모델 및 일반 목적의 베이지안 추론에 사용되는 광범위한 SMC 알고리즘 클래스에 적용된다.