[논문 리뷰] On particle Gibbs Markov chain Monte Carlo models

Pierre Del Moral, Robert Kohn외 1명|arXiv (Cornell University)|2014. 04. 23.

Markov Chains and Monte Carlo Methods참고 문헌 40인용 수 9

한 줄 요약

이 논문은 파인먼-하이즈 측도와 다체 입자 시스템 사이의 새로운 이중성 관계를 수립하며, 입자 길버트 마르코프 체인 몬테카를로(_PMCMC_) 방법을 경로 공간 위의 길버트 샘플러로 재해석한다. 불변 측도 주위의 반군의 비점근적 테일러 전개를 도출함으로써, 시간 수평과 시스템 크기의 함수로 수렴 속도, 수축 계수, 그리고 Lp 오차 분해에 대한 정밀한 양적 추정치를 가능하게 한다.

ABSTRACT

This article analyses a new class of advanced particle Markov chain Monte Carlo algorithms recently introduced by Andrieu, Doucet, and Holenstein (2010). We present a natural interpretation of these methods in terms of well known unbiasedness properties of Feynman-Kac particle measures, and a new duality with many-body Feynman-Kac models. This perspective sheds a new light on the foundations and the mathematical analysis of this class of methods. A key consequence is the equivalence between the backward and ancestral particle Markov chain Monte Carlo methods, and Gibbs sampling of a many-body Feynman-Kac target distribution. Our approach also presents a new stochastic differential calculus based on geometric combinatorial techniques to derive explicit non-asymptotic Taylor type series of the semigroup of a class of particle Markov chain Monte Carlo models around their invariant measures with respect to the population size of the auxiliary particle sampler. These results provide sharp quan- titative estimates of the convergence properties of conditional particle Markov chain models with respect to the time horizon and the size of the systems. We illustrate the implication of these results with sharp estimates of the contraction coefficient and the Lyapunov exponent of conditional particle samplers, and explicit and non-asymptotic Lp-mean error decompositions of the law of the random states around the limiting invariant measure. The abstract framework developed in the article also allows the design of natural extensions to island (also called SMC2) type particle methodologies.

연구 동기 및 목표

• 표준 파인먼-하이즈 모형과 그 다체 확장 간의 연결을 통해 입자 마르코프 체인 몬테카를로(_PMCMC_) 방법의 새로운 확률적 기반을 제공하는 것.
• 표준 파인먼-하이즈 측도와 그 다체 형태 간의 이중성 관계를 수립하여, _PMCMC_ 를 경로 공간 위의 길버트 샘플러로 재해석하는 것.
• 기하 조합 기반의 확률 미적분학 프레임워크를 개발하여, _PMCMC_ 모형의 반군이 그 불변 측도 주위에서 비점근적 테일러 유형 전개를 유도하는 것.
• 조건부 입자 샘플러의 수렴 성질—수축 계수 및 리아플로프 지수 등을 포함하여—에 대한 정밀한 양적 추정치를 제공하는 것.
• 이를 바탕으로 새로운 유형의 _PMCMC_ 샘플러, 특히 섬 유형(SMC²) 방법론을 설계하고, 인구 크기와 섬의 수에 따른 수렴성을 분석하는 것.

제안 방법

• 비정규화된 파인먼-하이즈 측도와 그 다체 확장 간의 이중성 관계를 도입하여, 조건부 SMC 유형의 _PMCMC_ 가 표준 길버트 샘플러로 축소됨을 보여주는 것.
• 기하 조합 기법을 활용해, 보조 입자 시스템 크기를 매개변수로 하는 _PMCMC_ 반군의 명시적 비점근적 테일러 급수 전개를 도출하는 것.
• 평균장 입자 근사의 무편향성 성질을 적용하여 입자 시스템의 법칙과 목표 파인먼-하이즈 분포 사이의 관계를 식 $ \nu_n(\mathfrak{f_n}) = \mathbb{E}\left(f_n'(X_n') \prod_{0\leq p<n} G_p'(X_p')\right) = \gamma_n'(f_n') $ 를 통해 연결하는 것.
• 각각 $ N $ 개의 섬이 있고, 각 섬이 $ N' $ 명의 개체로 구성된 상태 공간 $ \mathcal{S}_n = S_n^{[N]} $ 에서 정의된 이중 평균장 입자 모형 $ \mathcal{X}_n $ 을 구성하는 것.
• 입자 시스템의 역사적 과정으로부터 경로 공간 파인먼-하이즈 측도 $ (\eta_n, \gamma_n) $ 를 도출하며, 선택 잠재력 $ G_n(X_n) = G_n'(X_n') $ 를 설정하고, $ \eta_n $ 의 $ S_n' $-편미분을 일반 파인먼-하이즈 기대값을 계산하는 도구로 해석하는 것.
• 백워드 샘플링 기반의 _PMCMC_ 와 이론적으로 반복적으로 고차 모델을 구성하는 데에 러시아 마트료시카 구조를 적용하여, SMC² 및 섬 유형 방법론으로 자연스럽게 확장할 수 있도록 하는 것.

실험 결과

연구 질문

• RQ1 입자 길버트 _PMCMC_ 방법은 표준 및 다체 파인먼-하이즈 모형 간의 이중성 관계를 통해 어떻게 재해석될 수 있는가?
• RQ2 파인먼-하이즈 목표에 대해 백워드 샘플링과 조상 기반 입자 _MCMC_ 방법 간의 등가성에 놓인 정밀한 수학적 구조는 무엇인가?
• RQ3 입자 _PMCMC_ 반군의 불변 측도 주위에서 비점근적 테일러 유형 전개를 도출할 수 있으며, 그 전개는 수렴 속도에 대해 무엇을 드러내는가?
• RQ4 시간 수평과 시스템 크기의 함수로 조건부 입자 샘플러의 수축 계수 및 리아플로프 지수에 대한 정밀한 양적 추정치는 무엇인가?
• RQ5 이 프레임워크는 인구 크기와 섬의 수에 따라 수렴 보장을 명시적으로 갖는 섬 유형(SMC²) 입자 _MCMC_ 샘플러의 설계 및 분석으로 어떻게 확장될 수 있는가?

주요 결과

• 최근 수립된 파인먼-하이즈 측도와 그 다체 형태 간의 이중성 덕분에, 조건부 SMC 유형의 _PMCMC_ 방법은 보조 입자 시스템의 경로 공간 위의 표준 길버트 샘플러와 수학적으로 동치임을 입증하였다.
• 논문은 보조 입자 샘플러의 인구 크기를 매개변수로 하는 _PMCMC_ 반군의 불변 측도 주위에서 명시적 비점근적 테일러 급수 전개를 도출하였다.
• 이러한 전개는 조건부 입자 샘플러의 수렴 성질에 대한 정밀한 양적 추정치를 제공하며, 수축 계수와 리아플로프 지수의 경계를 포함한다.
• 이 프레임워크는 제한 불변 측도 주위에서 무작위 상태의 법칙에 대한 명시적 비점근적 $ \mathbb{L}_p $-평균 오차 분해를 제공한다.
• 이중성과 확률 미적분학 프레임워크는 새로운 유형의 _PMCMC_ 샘플러, 특히 섬 유형(SMC²) 모델의 자연스러운 설계를 가능하게 하며, 엄밀한 수렴 분석을 제공한다.
• 이 구조는 러시아 마트료시카 유형의 재귀적·내재적 입자 모델 확장을 허용하며, 수렴 성질을 섬의 수 $ N $ 과 각 섬의 개인 수 $ N' $ 에 따라 분석할 수 있다.