[论文解读] A Sharp Tail Bound for the Expander Random Sampler

Guruswami, Venkatesan, Kumar, Vinayak M.|arXiv (Cornell University)|Mar 29, 2017

Markov Chains and Monte Carlo Methods参考文献 13被引用 9

一句话总结

本文为随机游走于扩展图上的采样器提出了一个更精确的尾部界限，通过为函数和的矩生成函数（MGF）提供更紧致的界，改进了以往结果。关键贡献是提出了一种依赖于谱隙 λ 的新型 MGF 不等式，从而在标记顶点比例 µ 较小时，相较于以往工作获得了更紧致的集中界限——这一结果基于清晰的线性代数证明，并通过一个匹配的下界示例得到验证。

ABSTRACT

Consider an expander graph in which a $μ$ fraction of the vertices are marked. A random walk starts at a uniform vertex and at each step continues to a random neighbor. Gillman showed in 1993 that the number of marked vertices seen in a random walk of length $n$ is concentrated around its expectation, $Φ:= μn$, independent of the size of the graph. Here we provide a new and sharp tail bound, improving on the existing bounds whenever $μ$ is not too large.

研究动机与目标

• 改进在扩展图上随机游走时观察到的标记顶点数量的现有尾部界限。
• 为沿随机游走路径的有界函数之和，提供更紧致且更易于分析的矩生成函数（MGF）界。
• 通过一种更简洁、基于线性代数的证明方法，弥补以往工作中依赖微扰理论的不足。
• 通过一个两状态马尔可夫链示例，证明该界限的紧致性，该示例在渐近意义上与界限匹配。

提出的方法

• 推导出在 d-正则扩展图上随机游走时，和 Sn = ∑ fi(Yi) 的矩生成函数（MGF）的新上界。
• 采用一种新颖的线性代数方法，基于矩阵范数与向量投影，避免了以往工作中使用的微扰理论。
• 应用柯西-施瓦茨不等式与组合不等式，通过第二类斯特林数界定 Sn 的矩。
• 引入一个关键引理，通过谱隙 λ 界定在选定时间步长上 Zi = fi(Yi) 的乘积期望。
• 通过泰勒展开重构 MGF，并应用已知的斯特林数与生成函数恒等式。
• 通过证明在两状态马尔可夫链模型中，MGF 在 n → ∞ 时渐近收敛于该界限，验证了界限的紧致性。

实验结果

研究问题

• RQ1 与现有结果相比，能否为扩展图上随机游走路径中函数和的矩生成函数界推导出更紧致的界？
• RQ2 该新界在自然随机游走模型（如两状态马尔可夫链）中是否渐近紧致？
• RQ3 与以往依赖微扰理论的方法相比，该证明技术能否更简化且更清晰？
• RQ4 当标记顶点比例 µ 较小时，该新界是否能改善尾部集中程度？
• RQ5 该界能否推广至非相同函数 f1, ..., fn 的情形，这在伪随机性应用中是必要的？

主要发现

• 本文建立了新的 MGF 界：E[αSn] ≤ exp(Φ(α−1)(1−λ)/(1−αλ))，其中 1 < α < 1/λ，当 µ 较小时，该界严格优于以往结果。
• 当 λ = 1/2 时，尾部界限变为 Pr[Sn ≥ tΦ] ≤ (2 − √(2/t))⁻ᵗΦ exp(Φ(√t/2 −1))，显示出相较于以往工作的更优集中性。
• 该界限渐近紧致：对于两状态马尔可夫链模型，MGF 在 n → ∞ 时收敛于该界限。
• 与以往工作相比，该证明方法更简洁、更透明，避免了复杂的微扰理论。
• 该界适用于一般函数 f1, ..., fn（无需相同），这对伪随机性及低种子长度采样器的应用至关重要。
• 该结果使得可用扩展图采样器替代非扩展图采样器，将种子长度从 O(n + log|V| + n(log log|V| + log(1/Φ))/log n) 降低至 log|V| + O(n)，适用于常数度扩展图。