[논문 리뷰] On Feynman-Kac and particle Markov chain Monte Carlo models

Pierre Del Moral, Robert Kohn외 1명|arXiv (Cornell University)|2014. 04. 23.

Markov Chains and Monte Carlo Methods인용 수 1

한 줄 요약

이 논문은 다체 피네만-하츠 목표를 대상으로 한 기브스 샘플링을 통해 뒤집힌 및 조상 PMCMC 방법들 사이의 이중성(duality)을 수립하는 새로운 파울리-마르코프 체인 몬테카를로(PMCMC) 프레임워크를 제안한다. 기하 조합 스토케스틱 미적분을 사용하여 불변 측도 주위에서 반군(semigroup)의 명시적 비점근적 타일러 유형 전개를 유도함으로써, 시간 영역과 시스템 크기의 함수로 수렴 속도, 수축 계수, 리아프노프 지수, 그리고 조건부 입자 샘플러에 대한 Lp-평균 오차 분해의 정량적 추정치를 정밀하게 도출한다.

ABSTRACT

This article analyses a new class of advanced particle Markov chain Monte Carlo algorithms recently introduced by Andrieu, Doucet, and Holenstein (2010). We present a natural interpretation of these methods in terms of well known unbiasedness properties of Feynman-Kac particle measures, and a new duality with many-body Feynman-Kac models. This perspective sheds a new light on the foundations and the mathematical analysis of this class of methods. A key consequence is the equivalence between the backward and ancestral particle Markov chain Monte Carlo methods, and Gibbs sampling of a many-body Feynman-Kac target distribution. Our approach also presents a new stochastic differential calculus based on geometric combinatorial techniques to derive explicit non-asymptotic Taylor type series of the semigroup of a class of particle Markov chain Monte Carlo models around their invariant measures with respect to the population size of the auxiliary particle sampler. These results provide sharp quan- titative estimates of the convergence properties of conditional particle Markov chain models with respect to the time horizon and the size of the systems. We illustrate the implication of these results with sharp estimates of the contraction coefficient and the Lyapunov exponent of conditional particle samplers, and explicit and non-asymptotic Lp-mean error decompositions of the law of the random states around the limiting invariant measure. The abstract framework developed in the article also allows the design of natural extensions to island (also called SMC2) type particle methodologies.

연구 동기 및 목표

• 파울리-마르코프 체인 몬테카를로(PMCMC) 알고리즘의 고급 이론적 기반을 파울리-마르코프 입자 측도를 통해 구축하기 위해.
• 다체 피네만-하츠 모델과의 이중성에 의해 PMCMC 방법의 수학적 구조를 명확히 하기 위해.
• 시간 영역과 시스템 크기의 함수로 조건부 입자 샘플러에 대한 비점근적 수렴 추정치를 도출하기 위해.
• 입자 반군을 분석하기 위한 기하 조합 기반의 확률 미적분 프레임워크를 개발하기 위해.
• 제안된 추상적 프레임워크 내에서 아일랜드(SMC2) 유형의 입자 알고리즘과 같은 확장된 방법론의 설계를 가능하게 하기 위해.

제안 방법

• 저자들은 편향 없는 피네만-하츠 입자 측도를 통해 PMCMC 방법을 해석함으로써, 잘 알려진 확률적 성질과 연결한다.
• 다체 피네만-하츠 목표 분포에 대한 기브스 샘플링과 동치임을 보여줌으로써, 뒤집힌 및 조상 PMCMC 방법 사이의 이중성을 도입한다.
• 입자 반군의 불변 측도 주위에서 명시적 비점근적 타일러 유형 급수 전개를 도출하기 위해 기하 조합 스토케스틱 미적분을 개발한다.
• 이 프레임워크를 통해 조건부 입자 샘플러의 수축 계수와 리아프노프 지수에 대한 날카운 비점근적 추정치를 도출할 수 있다.
• 랜덤 상태의 법칙이 한계 불변 측도에 대해 명시적 Lp-평균 오차 분해를 제공한다.
• 추상적 프레임워크는 아일랜드(SMC2) 유형의 입자 방법론과 같은 자연스러운 일반화를 지원하도록 확장된다.

실험 결과

연구 질문

• RQ1 뒤집힌 및 조상 입자 마르코프 체인 몬테카를로 방법들 사이의 근본적인 이중성은 무엇인가?
• RQ2 피네만-하츠 입자 측도는 어떻게 PMCMC 알고리즘을 해석하고 통합하는 데 사용될 수 있는가?
• RQ3 입자 PMCMC 모델의 반군은 그들의 불변 측도 주위에서 어떤 비점근적 전개를 도출할 수 있는가?
• RQ4 조건부 입자 샘플러의 수축 계수와 리아프노프 지수는 시간 영역과 시스템 크기와 어떻게 스케일링되는가?
• RQ5 랜덤 상태의 법칙이 불변 측도에 대해 어떤 명시적 비점근적 Lp-평균 오차 분해를 도출할 수 있는가?

주요 결과

• 뒤집힌 및 조상 PMCMC 방법은 다체 피네만-하츠 목표 분포에 대한 기브스 샘플링과의 이중성에 의해 수학적으로 동치이다.
• 기하 조합 스토케스틱 미적분은 입자 반군의 불변 측도 주위에서 명시적 비점근적 타일러 유형 급수 전개를 가능하게 한다.
• 시간 영역과 시스템 크기의 함수로 조건부 입자 샘플러의 수축 계수와 리아프노프 지수에 대한 날카운 비점근적 추정치가 도출된다.
• 한계 불변 측도 주위에서 랜덤 상태의 법칙에 대한 명시적 비점근적 Lp-평균 오차 분해가 확보된다.
• 프레임워크는 아일랜드(SMC2) 유형의 입자 방법론으로의 자연스러운 확장을 지원하며, 더 넓은 알고리즘 적용 가능성을 제공한다.
• 결과는 조건부 입자 마르코프 체인 모델의 수렴 성질을 분석하기 위한 엄밀하고 정량적인 기반을 제공한다.