[논문 리뷰] Concentration Inequalities and UQ Bounds for Hypocoercive MCMC Samplers

Jeremiah Birrell, Luc Rey-Bellet|arXiv (Cornell University)|2019. 07. 27.

Markov Chains and Monte Carlo Methods참고 문헌 43인용 수 5

한 줄 요약

이 논문은 비가역 MCMC 샘플러의 에르고딕 평균에 대해 베르슈타인 유형의 농도 불등식을 수립하여, 후행 기대값에 대한 비점근적 신뢰구간과 근사 동역학을 사용할 경우 발생하는 편향의 불확실성 정량화를 가능하게 한다. 주요 기여는 히포코어시브 반응기반 이론과 페인만-카프 표현을 기반으로 한 엄밀한 성능 보장 프레임워크를 제공하는 것이다.

ABSTRACT

In this work we provide performance guarantees for hypocoercive non-reversible MCMC samplers $X_t$ with invariant measure $μ_*$; our results apply in particular to the Langevin equation, Hamiltonian Monte-Carlo, and the bouncy particle and zig-zag samplers. Specifically, we establish a concentration inequality of Bernstein type for ergodic averages $\frac{1}{T} \int_0^T f(X_t)\, dt$. As a consequence we provide two types of performance guarantees: (a) explicit non-asymptotic confidence intervals for $\int f dμ_*$ when using a finite time ergodic average with given initial condition $μ$ and (b) uncertainty quantification (UQ) bounds, expressed in terms of relative entropy rate, on the bias of $\int f dμ_*$ when using an alternative or approximate processes $\widetilde{X}_t$. (Results in (b) generalize results (arXiv:1812.05174) from the authors for coercive dynamics.) The concentration inequality is proved by combining the approach via Feynman-Kac semigroups first noted by Wu with the hypocoercive estimates of Dolbeault, Mouhot and Schmeiser (arXiv:1005.1495) developed for the Langevin equation and generalized to partially deterministic Markov processes by Andrieu et al. (arXiv:1808.08592).

연구 동기 및 목표

• 히포코어시브 비가역 MCMC 샘플러에 대한 비점근적 성능 보장을 제공함으로써, 에르고딕 평균에 대한 신뢰구간을 포함한다.
• 진짜 동역학 대신 근사 또는 대체 스토케스틱 과정을 사용할 경우 발생하는 편향을 정량화한다.
• 강력한 코어시브 동역학을 넘어서 더 일반적인 히포코어시브 설정으로까지 불확실성 정량화 결과를 확장한다.
• 랜쥐빈, 지그-지그, 번스 페르티클, 하이브리드 HMC와 같은 다양한 샘플러의 성능 분석을 동일한 이론적 프레임워크로 통합한다.
• 돌베올, 무호트, 쇼메이저가 제시한 히포코어시브 추정치와 페인만-카프 반응기반 반응기반으로 에르고딕 평균에 대한 농도 불등식을 수립한다.

제안 방법

• 우(2000)가 제안한 페인만-카프 반응기반 접근법을 사용하여, $ \frac{1}{T}\int_0^T f(X_t)\,dt $의 에르고딕 평균에 대해 베르슈타인 유형의 농도 불등식을 유도한다.
• 돌베올, 무호트, 쇼메이저(2009, 2015)의 히포코어시브 추정치와 앤드리에우 등(2018)의 일반화를 부분적으로 결정적인 과정에 적용한다.
• 스펙트럼 간격을 제어하고 $ L^2(\mu^*) $ 에서 지수 수렴을 보장하기 위해 수정된 스칼라곱 $ \langle f,g\rangle_\epsilon = \langle f,g\rangle + \epsilon\langle f, Gg\rangle $ 를 사용한다.
• 생성자 $ A = S + T $ 의 연산자 노름과 스펙트럼 성질을 이용하여 분산 및 편향 항에 대한 경계를 수립한다. 여기서 $ S $ 와 $ T $ 는 대칭 및 비대칭 부분으로 분해된다.
• 정리 3의 세 가지 가정(스펙트럼 간격 제어, $ G $ 의 유계성, 투영 구조)을 특정 샘플러에 대해 검증함으로써 프레임워크를 적용한다.
• 최종적으로 $ v_\pm $ 와 $ b_\pm $ 에 대한 명시적 경계를 $ \|\widehat{f}\|_\infty $, $ \Lambda(\epsilon) $, 및 $ \text{Var}_{\mu^*}[f] $ 의 함수로 유도하여 농도 불등식을 도출한다.

실험 결과

연구 질문

• RQ1 주어진 초기 조건 하에서, 히포코어시브 MCMC 샘플러의 에르고딕 평균에 대해 비점근적 신뢰구간을 구성할 수 있는가?
• RQ2 근사 과정 $ \widetilde{X}_t $ 를 기반으로 한 추정기의 편향은 상대 엔트로피율을 통해 어떻게 정량화할 수 있는가?
• RQ3 코어시브 동역학에서의 농도 불등식 프레임워크를 히포코어시브 동역학으로 확장할 수 있는가? 특히 비가역 샘플러에 대해 적용 가능한가?
• RQ4 지그-지그, 번스 페르티클, 하이브리드 HMC 샘플러의 맥락에서, 에르고딕 평균에 대한 명시적 성능 경계는 무엇인가?
• RQ5 생성자의 스펙트럼 성질과 수정된 스칼라곱이 에르고딕 평균의 농도 행동에 어떻게 영향을 미치는가?

주요 결과

• 유한 시간 $ T $ 에서도 유효하고 초기 분포에 명시적인 의존성을 가지는, 히포코어시브 MCMC 샘플러의 에르고딕 평균에 대해 베르슈타인 유형의 농도 불등식이 수립되었다.
• 에르고딕 평균 $ \int f\,d\mu^* $ 에 대한 비점근적 신뢰구간이 유도되었으며, 초기 측도 $ \mu $, 함수 $ f $, 및 시간 $ T $ 에 명시적으로 의존한다.
• 진짜 동역학 대신 대체 과정 $ \widetilde{X}_t $ 를 사용할 경우의 $ \int f\,d\mu^* $ 의 편향에 대한 불확실성 정량화 경계가 제공되었으며, $ X_t $ 와 $ \widetilde{X}_t $ 의 법칙 간 상대 엔트로피율을 통해 표현된다.
• 분산 항의 경계는 $ v_\pm \leq \frac{(1+\epsilon)(1 - \epsilon^2/4)}{1-\epsilon} \cdot \frac{2\text{Var}_{\mu^*}[f]}{\Lambda(\epsilon)} $ 를 만족하며, 여기서 $ \Lambda(\epsilon) $ 는 히포코어시브 수렴 속도를 제어한다.
• 편향 항의 경계는 $ b_\pm \leq \frac{(1+\epsilon)^2}{1-\epsilon} \cdot \frac{\|\widehat{f}\|_\infty}{\Lambda(\epsilon)} $ 로 제시되며, 함수의 변동성과 스펙트럼 간격에 대한 명시적 의존성을 보여준다.
• 이 결과들은 비어렐과 레이-벨레(2018)의 이전 작업을 코어시브 동역학에서 히포코어시브 동역학으로 일반화하였으며, 지그-지그 및 번스 페르티클을 포함한 광범위한 비가역 샘플러 클래스를 다룰 수 있다.