[논문 리뷰] Subgeometric rates of convergence in Wasserstein distance for Markov chains

Alain Durmus, Gersende Fort외 1명|arXiv (Cornell University)|2014. 02. 19.

Markov Chains and Monte Carlo Methods참고 문헌 34인용 수 29

한 줄 요약

이 논문은 기존의 기능 분석에 의존하지 않는 새로운 확률적 커플링 구성 기법을 사용하여, 비어 있는 상태공간 마르코프 체인에 대해 워샤르슈타인 거리에서 하위기하학적 수렴 속도를 확립한다. 이는 체인이 비기약적이어도 성립한다. 단일 드리프트 조건이 하위기하학적 에르고딕성을 암시하며, 비선형 자기재귀 모델과 힐버트 공간에서의 전처리된 크랭크-니콜슨 MCMC에 적용되어 기존의 총변동 분석에서 알려진 속도와 일치한다.

ABSTRACT

In this paper, we provide sufficient conditions for the existence of the invariant distribution and for subgeometric rates of convergence in Wasserstein distance for general state-space Markov chains which are (possibly) not irreducible. Compared to previous work, our approach is based on a purely probabilistic coupling construction which allows to retrieve rates of convergence matching those previously reported for convergence in total variation. Our results are applied to establish the subgeometric ergodicity in Wasserstein distance of non-linear autoregressive models and of the pre-conditioned Crank-Nicolson Markov chain Monte Carlo algorithm in Hilbert space.

연구 동기 및 목표

• 기약성이 보장되지 않는 일반 상태공간 마르코프 체인에 대해 워샤르슈타인 거리에서 하위기하학적 수렴 속도를 보장하는 충분조건을 확립하는 것.
• 기능 분석에 의존하지 않는 커플링 기반 접근법을 개발하여 수렴 속도를 더 엄밀히 제어할 수 있도록 하는 것.
• 기존에 보고된 총변동 거리에서의 하위기하학적 수렴 속도를 확률적 프레임워크를 통해 재현하고 일치시키는 것.
• 비선형 자기재귀 모델과 무거운 尾 또는 특이한 잡음 분포를 갖는 경우에 대해 결과를 적용하는 것.

제안 방법

• 특정 커플링 집합 외부에서 커플링 커널을 정의하는 확률적 커플링 구성 기법을 사용한다.
• 커플링 커널에 단일 드리프트 조건을 도입하여 커플링까지의 기대 시간을 제어하며, 이는 이전 연구에서 사용된 드리프트 조건의 수열을 대체한다.
• 드리프트 조건을 활용하여 커플링 집합으로의 귀환 시간의 하위기하학적 모멘트에 대한 경계를 유도한다.
• 이러한 모멘트 경계를 통해 마르코프 체인의 분포와 불변 측도 간의 워샤르슈타인 거리를 제어한다.
• 문헌 [13]에서 제안된 $d$-작은 집합 개념의 수정된 버전을 활용하며, 하위기하학적 속도에 적합하게 조정한다.
• 커플링이 구성되어 워샤르슈타인 거리가 하위기하학적 함수 $r$과 관련 함수 $R$에 의해 결정되는 속도로 감소함을 보장한다.

실험 결과

연구 질문

• RQ1 기약성이 요구되지 않는 마르코프 체인에 대해 워샤르슈타인 거리에서 하위기하학적 수렴 속도를 확립할 수 있는가?
• RQ2 이전 연구에서 사용된 드리프트 조건의 수열을 대체할 수 있는 단일 드리프트 조건을 도입할 수 있는가?
• RQ3 순수하게 확률적 커플링 접근법이 하위기하학적 수렴 속도에서 총변동 거리의 결과와 일치하는 수렴 속도를 도출할 수 있는가?
• RQ4 이 방법은 특이한 잡음 분포를 갖는 비선형 자기재귀 모델에 적용될 수 있는가?
• RQ5 힐버트 공간에서의 전처리된 크랭크-니콜슨 MCMC 알고리즘이 이전 결과보다 더 약한 조건 하에서도 워샤르슈타인 거리에서 하위기하학적 수렴을 달성할 수 있는가?

주요 결과

• 논문은 비기약성 조건이 없더라도 단일 드리프트 조건 하에서 워샤르슈타인 거리에서 하위기하학적 에르고딕성을 확립한다.
• 이 방법은 이전에 총변동 거리에서 보고된 수렴 속도를 재현하며, 이를 워샤르슈타인 거리로 확장한다.
• 특이한 잡음 분포를 갖는 비선형 자기재귀 모델에 대해, 이 접근법은 워샤르슈타인 거리에서 하위기하학적 수렴을 확인한다.
• 힐버트 공간에서의 전처리된 크랭크-니콜슨 MCMC 알고리즘은 [14]의 결과보다 더 약한 가정 하에서도 워샤르슈타인 거리에서 하위기하학적 수렴을 보인다.
• 커플링 구성은 워샤르슈타인 거리가 하위기하학적 함수 $r$에 의해 결정되는 속도로 감소함을 보장하며, $W_d(P^n(x, olinkcdot), olinkmu) \leq \zeta^n d_\eta(x,y)$ 를 만족하는 어떤 $\zeta \in (0,1)$ 가 존재한다.
• 결과는 무거운 꼬리 목표 분포에 대해서도 강건함을 보이며, 이러한 목표를 갖는 MCMC 샘플러 적용 사례에서 이를 입증한다.