[论文解读] On the limitations of single-step drift and minorization in Markov chain convergence analysis

Qian Qin, James P. Hobert|arXiv (Cornell University)|Mar 21, 2020

Markov Chains and Monte Carlo Methods参考文献 37被引用 4

一句话总结

本文表明，基于单步漂移和极小化（d&m）条件的收敛速率界在高维马尔可夫链中存在根本性局限，通常产生过于保守的估计。通过分析在d&m条件下可达到的最优界，作者表明这些方法无法捕捉高维中的快速混合现象，即使真实收敛速率很快。

ABSTRACT

Over the last three decades, there has been a considerable effort within the applied probability community to develop techniques for bounding the convergence rates of general state space Markov chains. Most of these results assume the existence of drift and minorization (d\&m) conditions. It has often been observed that convergence rate bounds based on single-step d\&m tend to be overly conservative, especially in high-dimensional situations. This article builds a framework for studying this phenomenon. It is shown that any convergence rate bound based on a set of d\&m conditions cannot do better than a certain unknown optimal bound. Strategies are designed to put bounds on the optimal bound itself, and this allows one to quantify the extent to which a d\&m-based convergence rate bound can be sharp. The new theory is applied to several examples, including a Gaussian autoregressive process (whose true convergence rate is known), and a Metropolis adjusted Langevin algorithm. The results strongly suggest that convergence rate bounds based on single-step d\&m conditions are quite inadequate in high-dimensional settings.

研究动机与目标

• 调查为何基于漂移与极小化（d&m）的收敛速率界在高维设置下通常过于保守。
• 提出一个框架，用于量化d&m方法界理论极限，通过研究在这些条件下可达到的最优界。
• 通过将界与真实收敛速率比较，评估d&m方法在高维问题中是否本质上不充分。
• 将该框架应用于具体实例，包括高斯自回归过程和马尔可夫链蒙特卡洛调整的朗之万算法，以展示实际局限性。

提出的方法

• 提出一个理论框架，用于分析给定d&m条件下可实现的最优收敛速率界。
• 将最优界定义为针对给定马尔可夫链的所有可能d&m方法收敛速率上界中的下确界。
• 使用双变量漂移条件和耦合技术，推导d&m方法最优收敛速率的下界。
• 将该框架应用于具体实例，包括高斯自回归过程和马尔可夫链蒙特卡洛调整的朗之万算法，以评估性能。
• 使用集中不等式和尾部界（例如Φ(·)）量化高维下收敛速率界渐近行为。
• 使用总变差距离和量ρ*(P)作为真实收敛速率，与d&m方法的上界进行比较。

实验结果

研究问题

• RQ1 d&m方法的收敛速率界在高维马尔可夫链中受到多大程度的限制？
• RQ2 可通过d&m方法实现的最优收敛速率界是否可量化？其与真实收敛速率相比如何？
• RQ3 为何d&m方法的界通常过于保守？这是方法论缺陷还是固有局限所致？
• RQ4 d&m方法的界在多大程度上无法捕捉高维目标分布中的快速混合现象？
• RQ5 该框架能否用于证明d&m方法在高维MCMC收敛分析中本质上不充分？

主要发现

• 在高维设置下，通过单步d&m条件可实现的最优收敛速率界严格劣于真实收敛速率ρ*(P)。
• 对于高斯自回归过程，d&m方法的界被证明显著宽松于已知的真实收敛速率。
• 在马尔可夫链蒙特卡洛调整的朗之万算法中，d&m方法的界随维度增加而迅速恶化，表明其存在根本性不足。
• 该框架揭示，即使真实速率很快，d&m方法的界也无法优于某一阈值。
• d&m条件下最优界渐近行为被证明随维度增加趋近于1，表明其在高维中表现差。
• 分析证实，d&m方法的界根本受限于单步转移核的结构，而非漂移函数选择不当。