[논문 리뷰] Constructing sampling schemes via coupling: Markov semigroups and optimal transport

N. Nuesken, Grigorios A. Pavliotis|arXiv (Cornell University)|2018. 06. 28.

Markov Chains and Monte Carlo Methods참고 문헌 46인용 수 3

한 줄 요약

이 논문은 커플링 기법을 사용하여 효율적인 마르코프 체인 몬테카를로(MCMC) 샘플러를 구성하기 위한 통합 프레임워크를 개발한다. 이 프레임워크는 마르코프 석간군과 최적 운반 이론과 연결되며, 점근적 분산 최소화를 위한 최적 커플링이 다중모멘트 최적 운반 문제로 귀결됨을 보여준다. 이는 새로운 반대변수 기법과 수렴 분석을 위한 수정된 파인카레 부등식을 이끌어낸다.

ABSTRACT

In this paper we develop a general framework for constructing and analysing coupled Markov chain Monte Carlo samplers, allowing for both (possibly degenerate) diffusion and piecewise deterministic Markov processes. For many performance criteria of interest, including the asymptotic variance, the task of finding efficient couplings can be phrased in terms of problems related to optimal transport theory. We investigate general structural properties, proving a singularity theorem that has both geometric and probabilistic interpretations. Moreover, we show that those problems can often be solved approximately and support our findings with numerical experiments. For the particular objective of estimating the variance of a Bayesian posterior, our analysis suggests using novel techniques in the spirit of antithetic variates. Addressing the convergence to equilibrium of coupled processes we furthermore derive a modified Poincaré inequality.

연구 동기 및 목표

• 확산 및 조각별로 결정적인 과정에 대해, 커플링된 마르코프 체인 몬테카를로 샘플러를 구축하고 분석하기 위한 일반적 프레임워크를 개발한다.
• 점근적 분산과 같은 성능 기준을 최적화하는 것이 최적 운반 이론의 문제로 귀결됨을 보여준다.
• 커플링된 과정의 평형 상태 수렴 분석을 위한 수정된 파인카레 부등식을 유도한다.
• 베이지안 사후 분포 추정에서 분산 감소를 위한 반대변수 유사 기법을 제안한다.
• 확산 및 조각별로 결정적인 과정에 대해 커플링의 공간에서 구조적 성질, 특히 특이성 정리(기하학적 및 확률적 해석을 포함)를 규명한다.

제안 방법

• 고정된 주변분포를 갖는 곱공간 위에서 커플링된 마르코프 과정를 정의하고, 무한소 생성자를 사용하여 커플링 동역학을 특성화한다.
• 분산 최소화 문제를 다중모멘트 최적 운반 문제로 재구성함으로써 분석적 및 수치적 해법을 가능하게 한다.
• 마르코프 석간군 이론을 적용하여 커플링된 과정의 정적성 및 수렴성을 분석한다.
• 커플링된 과정이 평형 상태로 수렴하는 속도를 정량화하기 위해 수정된 파인카레 부등식을 유도한다.
• 커플링 생성자에 대한 포아송 방정식을 사용하여 점근적 분산을 운반 관련 방정식의 해로 표현한다.
• 로피탈의 정리와 적분 조건을 활용하여 해의 경계 행동을 분석함으로써 커플링 프레임워크의 잘 정의됨을 보장한다.

실험 결과

연구 질문

• RQ1 커플링 기법을 체계적으로 활용하여 MCMC 샘플링의 점근적 분산을 어떻게 줄일 수 있는가?
• RQ2 최적 운반 원리가 마르코프 과정에 대한 효율적 커플링의 구성에 어떻게 영향을 미치는가?
• RQ3 확산 및 조각별로 결정적인 과정에 대해 커플링의 공간에서 특이성 정리와 같은 구조적 성질이 어떻게 도출되는가?
• RQ4 커플링된 과정의 평형 상태 수렴은 어떻게 정량화할 수 있으며, 어떤 새로운 부등식이 유도되는가?
• RQ5 커플링 프레임워크에서 새로운 반대변수 유사 기법을 유도하여 베이지안 추론에서의 샘플링 효율성을 향상시킬 수 있는가?

주요 결과

• 커플링된 샘플러의 점근적 분산은 다중모멘트 최적 운반 문제의 해에 해당하는 커플링일 때 최소화된다.
• 특이성 정리가 확립되어 있으며, 이는 효율적 커플링의 구조에 대한 기하학적 및 확률적 제약 조건을 드러낸다.
• 이 프레임워크를 통해 베이지안 사후 분포 분산 추정을 위한 새로운 반대변수 기법을 구성할 수 있으며, 계산 비용을 증가시키지 않고도 분산을 감소시킬 수 있다.
• 수렴 속도를 정량화하는 데 사용할 수 있는 수정된 파인카레 부등식이 도출되었다.
• 수치 실험 결과 이론적 발견을 지지하며, 최적 운반 문제의 근사해를 사용한 커플링이 분산을 효과적으로 줄이는 데 기여함을 보여준다.
• 포아송 방정식의 해의 경계 행동이 엄밀히 분석되었으며, 잠재력 함수에 대한 온건한 조건 하에서 적분 가능성과 유일성이 보장된다.