[论文解读] Convergence of hybrid slice sampling via spectral gap

Krzysztof Łatuszyński, Daniel Rudolf|arXiv (Cornell University)|Sep 9, 2014

Markov Chains and Monte Carlo Methods参考文献 30被引用 8

一句话总结

本文通过将混合切片采样器的谱间隙与简单切片采样器的谱间隙相关联，建立了混合切片采样器的理论收敛保证。证明了几何遍历性和正谱间隙——快速混合的关键指标——可从简单版本继承，从而在无法实现切片上精确均匀采样的复杂目标中实现稳健、高效的采样。

ABSTRACT

It is known that the simple slice sampler has robust convergence properties, however the class of problems where it can be implemented is limited. In contrast, we consider hybrid slice samplers which are easily implementable and where another Markov chain approximately samples the uniform distribution on each slice. Under appropriate assumptions on the Markov chain on the slice we show a lower bound and an upper bound of the spectral gap of the hybrid slice sampler in terms of the spectral gap of the simple slice sampler. An immediate consequence of this is that spectral gap and geometric ergodicity of the hybrid slice sampler can be concluded from spectral gap and geometric ergodicity of its simple version which is very well understood. These results indicate that robustness properties of the simple slice sampler are inherited by (appropriately designed) easily implementable hybrid versions. We apply the developed theory and analyse a number of specific algorithms such as the stepping-out shrinkage slice sampling, hit-and-run slice sampling on a class of multivariate targets and an easily implementable combination of both procedures on multidimensional bimodal densities.

研究动机与目标

• 为广泛使用但理论理解不足的混合切片采样器填补理论收敛分析的空白。
• 建立混合切片采样器继承简单切片采样器稳健收敛性质的条件。
• 基于底层简单切片采样器的谱间隙，提供混合采样器谱间隙的显式下界与上界。
• 证明当简单版本满足这些条件时，几何遍历性与方差有界性可保留在混合采样器中。
• 在步长收缩、命中与运行以及多模态目标上的混合组合等具体算法上验证理论。

提出的方法

• 使用泛函分析将马尔可夫算子的谱间隙定义为 $\text{gap}(P) = 1 - \|P\|_{L^2_0,\pi \to L^2_0,\pi}$，其中 $L^2_0,\pi$ 是零均值、平方可积函数的空间。
• 应用算子范数不等式与谱理论，通过在函数空间之间映射的有界线性算子 $R$，将混合采样器的谱间隙与简单切片采样器的谱间隙关联起来。
• 利用切片上马尔可夫核的算子范数与简单采样器的谱间隙，推导出混合链谱间隙的界。
• 将谱间隙作为几何遍历性的代理，利用已知结论：正谱间隙蕴含几何遍历性与中心极限定理的有效性。
• 通过验证用于探索切片的马尔可夫链所需假设，分析特定混合算法（如步长收缩、命中与运行）。
• 利用如下事实：若切片上的马尔可夫链是可逆的且谱间隙远离零，则在适度条件下，混合采样器可继承该性质。

实验结果

研究问题

• RQ1 混合切片采样器的谱间隙能否以对应简单切片采样器的谱间隙为基准进行界定？
• RQ2 在何种条件下，简单切片采样器的几何遍历性可推出其混合版本的几何遍历性？
• RQ3 方差有界性与中心极限定理有效性是否可从简单采样器传递至混合采样器？
• RQ4 该理论框架能否成功应用于步长收缩或在多变量目标上的命中与运行等具体混合算法？
• RQ5 谱间隙界对混合采样中非渐近收敛速率有何定量影响？

主要发现

• 混合切片采样器的谱间隙以简单切片采样器的谱间隙为基准，具有显式下界与上界，确保了良好混合性质的保留。
• 若简单切片采样器具有正谱间隙，则在切片上马尔可夫链满足适当的遍历性与可逆性条件时，混合版本也具有正谱间隙。
• 简单切片采样器的几何遍历性可推出混合采样器的几何遍历性，从而确保总变差距离的指数收敛。
• 对于混合采样器，不等式 $\|\nu P^n - \pi\|_{\text{tv}} \leq (1 - \text{gap}(P层))^n \left\| \frac{d\nu}{d\pi} - 1 \right\|_2$ 成立，从而实现非渐近收敛控制。
• 对于样本均值，方差界 $\mathbb{E}\left|\frac{1}{n}\sum f(X_j) - \int f \, d\pi\right|^2 \leq \frac{2}{n \cdot \text{gap}(P)} + \cdots$ 成立，且对谱间隙具有显式依赖关系。
• 该理论成功应用于步长收缩、多变量目标上的命中与运行，以及混合双模采样器，实证验证了其在实践中的稳健收敛性。