[论文解读] Subgeometric rates of convergence in Wasserstein distance for Markov chains

Alain Durmus, Gersende Fort+1 more|arXiv (Cornell University)|Feb 19, 2014

Markov Chains and Monte Carlo Methods参考文献 34被引用 29

一句话总结

本文通过一种新颖的概率耦合构造，建立了广义状态空间马尔可夫链在 Wasserstein 距离下的次几何收敛速率，即使链不满足不可约性条件也成立。它提出了一种类漂移条件，可推出次几何遍历性，并将结果应用于非线性自回归模型和希尔伯特空间中的预处理 Crank-Nicolson MCMC，其收敛速率与总变差分析中已知的结果一致。

ABSTRACT

In this paper, we provide sufficient conditions for the existence of the invariant distribution and for subgeometric rates of convergence in Wasserstein distance for general state-space Markov chains which are (possibly) not irreducible. Compared to previous work, our approach is based on a purely probabilistic coupling construction which allows to retrieve rates of convergence matching those previously reported for convergence in total variation. Our results are applied to establish the subgeometric ergodicity in Wasserstein distance of non-linear autoregressive models and of the pre-conditioned Crank-Nicolson Markov chain Monte Carlo algorithm in Hilbert space.

研究动机与目标

• 为广义状态空间马尔可夫链建立在 Wasserstein 距离下次几何收敛的充分条件，即使链不满足不可约性。
• 提出一种基于耦合的方法，避免依赖泛函分析，从而实现对收敛速率的更紧密控制。
• 通过概率框架恢复并匹配此前在总变差距离下报告的次几何收敛速率。
• 将结果应用于具有重尾或奇异噪声的非线性自回归模型，以及希尔伯特空间中的预处理 Crank-Nicolson MCMC。

提出的方法

• 采用一种概率耦合构造，其中耦合核在指定的耦合集外部定义。
• 对耦合核施加单一漂移条件，以控制耦合所需的时间期望，替代以往工作中使用的漂移条件序列。
• 利用该漂移条件推导返回耦合集时间的次几何矩的上界。
• 通过这些矩上界控制链的分布与不变测度之间的 Wasserstein 距离。
• 利用 [13] 中 $d$-小集概念的改进版本，并将其适配于次几何速率。
• 耦合构造使得 Wasserstein 距离的衰减速率由次几何函数 $r$ 及其关联函数 $R$ 决定。

实验结果

研究问题

• RQ1 是否可以在不假设不可约性的前提下，为马尔可夫链建立在 Wasserstein 距离下的次几何收敛？
• RQ2 是否可以使用单一漂移条件替代以往工作中用于次几何遍历性的条件序列？
• RQ3 纯粹基于概率的耦合方法是否能获得与总变差距离下相同的次几何收敛速率？
• RQ4 该方法是否可应用于具有奇异噪声分布的非线性自回归模型？
• RQ5 预处理 Crank-Nicolson MCMC 算法在希尔伯特空间中是否能在弱于先前结果的条件下实现 Wasserstein 距离下的次几何收敛？

主要发现

• 本文在单一漂移条件下，即使对非不可约链，也建立了 Wasserstein 距离下的次几何遍历性。
• 该方法恢复了此前在总变差距离下报告的收敛速率，并将其推广至 Wasserstein 距离。
• 对于具有奇异噪声的非线性自回归模型，该方法证实了在 Wasserstein 距离下的次几何收敛性。
• 在弱于 [14] 中假设的条件下，证明了希尔伯特空间中预处理 Crank-Nicolson MCMC 算法在 Wasserstein 距离下具有次几何收敛性。
• 耦合构造确保 Wasserstein 距离以由次几何函数 $r$ 决定的速率衰减，满足 $W_d(P^n(x, olinkcdot), olinkmu) \leq \zeta^n d_\eta(x,y)$，其中 $\zeta \in (0,1)$。
• 结果对重尾目标分布具有鲁棒性，这一点在应用于具有此类目标的 MCMC 采样器时得到验证。