[论文解读] Scan Order in Gibbs Sampling: Models in Which it Matters and Bounds on How Much

Bryan He, Christopher De+2 more|arXiv (Cornell University)|Jun 10, 2016

Markov Chains and Monte Carlo Methods参考文献 24被引用 19

一句话总结

本文研究了吉布斯采样中扫描顺序的影响，证明系统扫描的混合时间可能比随机扫描快或慢多项式因子，这与长期以来认为两者差异最多为对数因子的猜想相反。作者提出一种扩展状态空间方法，利用一致率（conductance）证明在温和条件下，扫描顺序对混合时间的影响仅限于多项式因子范围内，从而解决了马尔可夫链蒙特卡洛（MCMC）采样中的一个关键理论问题。

ABSTRACT

Gibbs sampling is a Markov Chain Monte Carlo sampling technique that iteratively samples variables from their conditional distributions. There are two common scan orders for the variables: random scan and systematic scan. Due to the benefits of locality in hardware, systematic scan is commonly used, even though most statistical guarantees are only for random scan. While it has been conjectured that the mixing times of random scan and systematic scan do not differ by more than a logarithmic factor, we show by counterexample that this is not the case, and we prove that that the mixing times do not differ by more than a polynomial factor under mild conditions. To prove these relative bounds, we introduce a method of augmenting the state space to study systematic scan using conductance.

研究动机与目标

• 挑战长期以来认为系统扫描与随机扫描在混合时间上的差异最多为对数因子的猜想。
• 研究在特定模型中，系统扫描是否可能显著快于或慢于随机扫描。
• 在温和条件下，建立不同扫描顺序下混合时间的相对界。
• 提出一种新颖的方法，通过状态空间扩展，利用一致率分析系统扫描。

提出的方法

• 引入一个扩展状态空间，包含原始变量和扫描索引，以将系统扫描建模为马尔可夫链。
• 为扩展链定义一个转移核，以保持系统扫描的动力学特性，同时支持一致率分析。
• 利用一致率作为工具来界定混合时间，借助马尔可夫链理论中的已知不等式。
• 证明扩展系统扫描链的一致率下界为随机扫描一致率的一个分数。
• 通过将扩展系统扫描的一致率与随机扫描的一致率关联，建立混合时间的相对界。
• 将这些界应用于证明：在温和条件下，扫描顺序对混合时间的影响仅限于多项式因子范围内。

实验结果

研究问题

• RQ1 在任何模型中，系统扫描是否可能比随机扫描快超过对数因子？
• RQ2 最差排列的系统扫描是否可能比随机扫描慢超过常数因子？
• RQ3 在所有模型中，随机扫描与系统扫描混合时间之间的最紧相对界是什么？
• RQ4 在实践中，系统扫描中排列的选择如何影响混合时间？
• RQ5 通过状态空间扩展，一致率是否能有效应用于系统扫描的分析？

主要发现

• 构造了一个反例，表明特定排列下的系统扫描比随机扫描快超过对数因子，从而否定了猜想的第二方向。
• 提出了另一个模型，其中最坏情况下的系统扫描排列比随机扫描慢多项式因子，从而否定了猜想的第一方向。
• 在温和条件下，系统扫描的混合时间被证明上界为随机扫描混合时间的多项式因子，建立了相对界。
• 证明扩展系统扫描链的一致率至少为随机扫描链一致率的一个分数，从而支持理论界。
• 实验验证表明，混合时间随扫描排列显著变化，支持理论发现。
• 所提出的扩展状态空间方法使得一致率技术能够应用于系统扫描，这在以往因缺乏可逆性而难以实现。