[论文解读] John's Walk

Adam Gustafson, Hariharan Narayanan|arXiv (Cornell University)|Mar 6, 2018

Point processes and geometric inequalities参考文献 12被引用 5

一句话总结

本文提出一种仿射不变的随机游走方法，利用约翰椭球作为提议分布，对凸体 $Σ \subset \mathbb{R}^n$ 实现均匀采样。该方法从热启动状态出发，实现 $χ(n^7)$ 的混合时间，并在任意起点处若弦长比值在 $n$ 上多项式有界，则实现多项式混合时间，首次利用约翰椭球实现了此类界。

ABSTRACT

We present an affine-invariant random walk for drawing uniform random samples from a convex body $\mathcal{K} \subset \mathbb{R}^n$ that uses maximum volume inscribed ellipsoids, known as John's ellipsoids, for the proposal distribution. Our algorithm makes steps using uniform sampling from the John's ellipsoid of the symmetrization of $\mathcal{K}$ at the current point. We show that from a warm start, the random walk mixes in $\widetilde{O}(n^7)$ steps where the log factors depend only on constants associated with the warm start and desired total variation distance to uniformity. We also prove polynomial mixing bounds starting from any fixed point $x$ such that for any chord $pq$ of $\mathcal{K}$ containing $x$, $\left|\log \frac{|p-x|}{|q-x|} ight|$ is bounded above by a polynomial in $n$.

研究动机与目标

• 开发一种利用约翰椭球作为提议分布的仿射不变随机游走，用于从凸体中实现均匀采样。
• 建立从热启动状态出发的随机游走的多项式混合时间界。
• 证明当起始点满足对数弦段比值有界于 $n$ 的多项式时，从任意固定点出发的混合时间为多项式时间。
• 为利用约翰椭球的几何性质在高维凸集中实现高效采样提供理论基础。

提出的方法

• 该算法在当前点的对称凸体的最大体积内接椭球（即约翰椭球）上定义提议分布。
• 在每一步中，从对称集合的约翰椭球中均匀随机提出一个新点。
• 对凸体 $\mathcal{K}$ 的对称化确保了提议机制的仿射不变性。
• 该方法依赖于约翰椭球的几何性质，以在仿射变换下保持不变性。
• 混合时间的分析基于涉及总变差距离和初始分布相关常数的热启动条件。
• 分析中引入了对弦比值 $|\log(|p-x|/|q-x|)|$ 的界，以建立从任意起点出发的多项式混合时间。

实验结果

研究问题

• RQ1 使用约翰椭球的仿射不变随机游走能否在凸体上实现高效的混合时间以实现均匀采样？
• RQ2 当从热分布开始时，此类随机游走的混合时间是多少？
• RQ3 在起始点满足何种几何条件时，该随机游走能以多项式时间混合？
• RQ4 弦比值的界与随机游走的混合时间有何关系？
• RQ5 将约翰椭球作为提议分布是否能相对于标准方法提供更优的理论保证？

主要发现

• 从热启动状态出发，该随机游走的混合时间为 $\widetilde{O}(n^7)$ 步，其中对数因子仅依赖于热启动常数和目标精度。
• 当起始点满足对所有通过 $x$ 的弦 $pq$ 有 $|\log(|p-x|/|q-x|)| \leq \text{poly}(n)$ 时，混合时间在 $n$ 上为多项式。
• 该算法具有仿射不变性，其性质在凸体的线性变换下保持不变。
• 使用约翰椭球确保了提议分布的最优几何逼近。
• 该分析首次建立了基于约翰椭球的随机游走的多项式混合时间界。
• 结果表明，约翰椭球为设计高维凸集中高效采样算法提供了强有力的工具。