[论文解读] Markov chain methods for small-set expansion

Ryan O’Donnell, David Witmer|arXiv (Cornell University)|Apr 20, 2012

Markov Chains and Monte Carlo Methods参考文献 14被引用 3

一句话总结

本文利用热算子和π-内积的连续时间马尔可夫链方法，简化并推广了谱图划分的结果，尤其针对小集合扩张问题。文章给出了斯陶尔（Steurer）关于谱轮廓改进界限的新颖、简化的证明，表明 Φ_G(16k^{-1+1/A}) ≤ 2√A·√(λ_k log_k n)，该结果可推广至非正则图和有向图，并暗示了小集合扩张问题的近似算法。

ABSTRACT

Consider a finite irreducible Markov chain with invariant distribution $π$. We use the inner product induced by $π$ and the associated heat operator to simplify and generalize some results related to graph partitioning and the small-set expansion problem. For example, Steurer showed a tight connection between the number of small eigenvalues of a graph's Laplacian and the expansion of small sets in that graph. We give a simplified proof which generalizes to the nonregular, directed case. This result implies an approximation algorithm for an "analytic" version of the Small-Set Expansion Problem, which, in turn, immediately gives an approximation algorithm for Small-Set Expansion. We also give a simpler proof of a lower bound on the probability that a random walk stays within a set; this result was used in some recent works on finding small sparse cuts.

研究动机与目标

• 为克服离散时间随机游走和懒马尔可夫链在谱图划分中的局限性，特别是在非正则图和有向图中的应用限制。
• 利用连续时间随机游走，将斯陶尔对谱轮廓和小集合扩张的改进界限推广至非正则图和有向图。
• 使用马尔可夫链技术，提供小集合扩张与拉普拉斯矩阵特征值之间关系的更简单、更统一的证明。
• 建立连续时间随机游走停留在集合内的概率的更紧下界，优于以往的离散时间结果。
• 为小集合扩张问题的分析版本开发一个有效的近似算法，从而导出对原始问题的近似算法。

提出的方法

• 使用连续时间随机游走及其关联的热算子 H_t = exp(-tL)，以避免负特征值，并消除对懒态转移的依赖。
• 利用不变分布 π 定义 π-内积，使对非正则图的直接分析成为可能。
• 以连续时间游走替代离散时间游走，简化特征值分析，避免非对称或非正则图带来的技术复杂性。
• 在子集 S 上定义受限转移算子 K_S 及其关联的拉普拉斯算子 L_S，以分析游走在时间上保持在 S 内的概率。
• 对热算子的谱分解应用詹森不等式，推导出随机游走存活概率的下界。
• 利用谱轮廓 Λ_G(r) 及其与导通率 Φ_G(r) 的关系，推导出小集合扩张的界。

实验结果

研究问题

• RQ1 小集合扩张与特征值之间的联系能否以更简单、更普遍的方式证明，超越正则图的范围？
• RQ2 在高阶特征值的表达下，小集合的导通率的最紧界限是什么，特别是针对非正则图和有向图？
• RQ3 如何利用连续时间马尔可夫链更紧密地界定随机游走停留在集合内的概率？
• RQ4 能否使用马尔可夫链技术有效近似分析版本的小集合扩张问题？
• RQ5 当 k 较大时，高阶切赫不等式中已知的 Θ(√log k) 因子能否得到改进？

主要发现

• 为斯陶尔的改进界限给出了一个新颖且简化的证明：对任意 A ≥ 3，有 Φ_G(16k^{-1+1/A}) ≤ 2√A·√(λ_k log_k n)，该结果适用于强连通图，包括非正则图和有向图。
• 该界表明，当 k 足够大时，Φ_G(k^{-0.999}) ≤ O(√(λ_k log_k n))，从而在大 k 情况下去除了 √log k 因子。
• 谱轮廓 Λ_G(r) 满足 Λ_G(r) ≤ 2Φ_G(r)^2，本文提出一种利用连续时间游走直接界定它的方法。
• 为连续时间随机游走的存活概率建立了新的下界：对任意集合 S，有 C(t,S) ≥ exp(-tΦ[S])。
• 该结果暗示了对分析版本的小集合扩张问题的近似算法，进而可导出对原始问题的近似算法。
• 该证明方法避免了对懒态游走的需求，可直接应用于原图，简化了以往需对图进行修改的方法。