[论文解读] Fast MCMC sampling algorithms on polytopes

Yuansi Chen, Raaz Dwivedi+2 more|arXiv (Cornell University)|Oct 23, 2017

Markov Chains and Monte Carlo Methods参考文献 45被引用 31

一句话总结

本文提出了两种新颖的马尔可夫链蒙特卡洛（MCMC）采样算法——Vaidya随机游走和John随机游走，用于在多面体上生成均匀样本。利用内点法中的体积对数障碍和John椭球障碍，Vaidya随机游走实现了$\mathcal{O}(n^{0.5}d^{1.5})$的混合时间，显著优于Dikin随机游走的$\mathcal{O}(nd)$界，同时保持了相近的每步计算成本。

ABSTRACT

We propose and analyze two new MCMC sampling algorithms, the Vaidya walk and the John walk, for generating samples from the uniform distribution over a polytope. Both random walks are sampling algorithms derived from interior point methods. The former is based on volumetric-logarithmic barrier introduced by Vaidya whereas the latter uses John's ellipsoids. We show that the Vaidya walk mixes in significantly fewer steps than the logarithmic-barrier based Dikin walk studied in past work. For a polytope in $\mathbb{R}^d$ defined by $n >d$ linear constraints, we show that the mixing time from a warm start is bounded as $\mathcal{O}(n^{0.5}d^{1.5})$, compared to the $\mathcal{O}(nd)$ mixing time bound for the Dikin walk. The cost of each step of the Vaidya walk is of the same order as the Dikin walk, and at most twice as large in terms of constant pre-factors. For the John walk, we prove an $\mathcal{O}(d^{2.5}\cdot\log^4(n/d))$ bound on its mixing time and conjecture that an improved variant of it could achieve a mixing time of $\mathcal{O}(d^2\cdot ext{polylog}(n/d))$. Additionally, we propose variants of the Vaidya and John walks that mix in polynomial time from a deterministic starting point. The speed-up of the Vaidya walk over the Dikin walk are illustrated in numerical examples.

研究动机与目标

• 开发针对多面体上均匀分布的更快MCMC采样算法，尤其当约束数$n$相对于维度$d$较大时。
• 通过设计对$n$具有次线性依赖关系的算法，解决现有算法（如Dikin随机游走）对$n$线性依赖的局限性。
• 利用内点法中的几何结构——特别是Vaidya的体积对数障碍和John椭球——设计更高效的提议分布。
• 为新算法建立比以往方法更优的混合时间界，特别是在高维情形下。
• 提出变体，实现从确定性初始点出发的多项式混合时间，提升实际可用性。

提出的方法

• 提出Vaidya随机游走，基于Vaidya的体积对数障碍，相较于标准对数障碍，能更精确地逼近多面体的局部几何结构。
• 利用John椭球定义John随机游走的局部协方差结构，从而在高维中实现更好的各向同性，加快收敛速度。
• 通过谱隙分析和几何集中性论证推导混合时间界，利用障碍函数与多面几何时空结构之间的关系。
• 应用温暖初始框架，从接近目标分布的分布出发，以界混合时间，提升收敛保证。
• 引入一种新颖的耦合论证，涉及集合$\mathcal{S}_1', \mathcal{S}_2', \mathcal{S}_3'$，将总变差距离与体积比及障碍性质关联起来。
• 建立转移核的对称性与对偶性性质，如$\Phi(\mathcal{S}) = \Phi(\mathcal{K} \setminus \mathcal{S})$，以证明分析中的关键不等式。

实验结果

研究问题

• RQ1 MCMC在多面体上的采样能否实现关于约束数$n$的次线性混合时间？
• RQ2 当使用更精细的障碍函数时，Vaidya随机游走的混合时间与Dikin随机游走的$\mathcal{O}(nd)$界相比如何？
• RQ3 基于John椭球的提议分布能否实现比标准对数障碍方法更快的混合速度？
• RQ4 John随机游走的理论混合时间是多少？能否改进至$\mathcal{O}(d^2 \cdot \text{poly-log}(n/d))$？
• RQ5 所提出的随机游走能否实现从确定性初始点出发的多项式混合时间，而不仅限于温暖初始？

主要发现

• Vaidya随机游走从温暖初始出发，实现了$\mathcal{O}(n^{0.5}d^{1.5})$的混合时间，优于Dikin随机游走的$\mathcal{O}(nd)$界。
• Vaidya随机游走每步的计算成本与Dikin随机游走相当，常数因子最多增加两倍。
• John随机游走的混合时间界为$\mathcal{O}(d^{2.5} \cdot \log^4(n/d))$，并推测改进的变体可达到$\mathcal{O}(d^2 \cdot \text{poly-log}(n/d))$。
• 本文构建了Vaidya与John随机游走的变体，可从确定性初始点实现多项式混合时间。
• 数值示例表明，Vaidya随机游走在实践中显著快于Dikin随机游走。
• 理论分析依赖于一种新颖的耦合论证及转移核的对称性性质，建立了涉及体积比与总变差距离的关键不等式。