[论文解读] Local Graph Clustering Beyond Cheeger's Inequality

Zeyuan Allen Zhu, Silvio Lattanzi+1 more|arXiv (Cornell University)|Apr 30, 2013

Complex Network Analysis Techniques参考文献 41被引用 6

一句话总结

该论文提出了一种新颖的局部图聚类算法，通过引入聚类的内部连通性，改进了Cheeger不等式，实现了 Õ(min{√φ(A), φ(A)/√Conn(A)}) 的导出率保证，其中 Conn(A) 衡量了子图 A 上的混合时间。该方法利用基于PageRank的随机游走，提供了更紧致的理论边界，并在高度连通的聚类上实现了更优的实验性能。

ABSTRACT

Motivated by applications of large-scale graph clustering, we study random-walk-based LOCAL algorithms whose running times depend only on the size of the output cluster, rather than the entire graph. All previously known such algorithms guarantee an output conductance of $ ilde{O}(\sqrt{ϕ(A)})$ when the target set $A$ has conductance $ϕ(A)\in[0,1]$. In this paper, we improve it to $$ ilde{O}\bigg( \min\Big\{\sqrt{ϕ(A)}, \frac{ϕ(A)}{\sqrt{\mathsf{Conn}(A)}} \Big\} \bigg)\enspace, $$ where the internal connectivity parameter $\mathsf{Conn}(A) \in [0,1]$ is defined as the reciprocal of the mixing time of the random walk over the induced subgraph on $A$. For instance, using $\mathsf{Conn}(A) = Ω(λ(A) / \log n)$ where $λ$ is the second eigenvalue of the Laplacian of the induced subgraph on $A$, our conductance guarantee can be as good as $ ilde{O}(ϕ(A)/\sqrt{λ(A)})$. This builds an interesting connection to the recent advance of the so-called improved Cheeger's Inequality [KKL+13], which says that global spectral algorithms can provide a conductance guarantee of $O(ϕ_{\mathsf{opt}}/\sqrt{λ_3})$ instead of $O(\sqrt{ϕ_{\mathsf{opt}}})$. In addition, we provide theoretical guarantee on the clustering accuracy (in terms of precision and recall) of the output set. We also prove that our analysis is tight, and perform empirical evaluation to support our theory on both synthetic and real data. It is worth noting that, our analysis outperforms prior work when the cluster is well-connected. In fact, the better it is well-connected inside, the more significant improvement (both in terms of conductance and accuracy) we can obtain. Our results shed light on why in practice some random-walk-based algorithms perform better than its previous theory, and help guide future research about local clustering.

研究动机与目标

• 该论文旨在通过考虑聚类的内部连通性而非仅外部导出率，改进局部图聚类算法的理论保证。
• 它解决了先前研究的局限性，即仅考虑外部连通性（低 φ(A)），而忽略了聚类内部的连通程度。
• 目标是开发一种运行时间仅依赖于输出聚类大小的局部聚类算法，同时实现更优的导出率与准确性。
• 该研究旨在解释为何某些基于随机游走的算法在实践中表现优于理论预测，尤其是在高度连通的聚类上。
• 其目标是建立一个理论基础，将内部连通性（Conn(A)）与聚类性能的提升联系起来。

提出的方法

• 该算法使用基于PageRank的局部搜索来识别围绕种子节点的聚类，利用随机游走的收敛特性。
• 它提出了一种新的导出率保证，该保证依赖于外部导出率 φ(A) 和内部连通性 Conn(A)，其中 Conn(A) 定义为子图 A 上诱导子图混合时间的倒数。
• 分析采用了一种新颖的势函数和基于泄漏的论证方法，以界定向PageRank的衰减，表明高度连通的聚类（高 Conn(A)）可带来更优的导出率保证。
• 该方法通过一种类似推拉（push-relabel）风格的迭代算法实现近似PageRank计算（Approximate-PR），以维护具有有界支持体积的 ε-近似PageRank向量。
• 理论分析证明，输出集合的导出率为 Õ(min{√φ(A), φ(A)/√Conn(A)})，优于先前的 Õ(√φ(A)) 边界。
• 论文通过理论下界证明了分析的紧致性，并在合成图与真实世界图上验证了性能。

实验结果

研究问题

• RQ1 是否可以利用内部聚类连通性（Conn(A)）来改进仅依赖外部导出率的局部图聚类理论保证？
• RQ2 基于随机游走的局部聚类算法的性能在多大程度上依赖于聚类的内部结构，特别是其混合时间？
• RQ3 改进后的导出率保证在多大程度上转化为聚类准确率中更高的精确率与召回率？
• RQ4 为何某些局部聚类算法在实践中表现优于其理论边界，尤其是在高度连通的聚类上？
• RQ5 新的导出率边界 Õ(min{√φ(A), φ(A)/√Conn(A)}) 是否紧致，且能否被一种输出大小依赖运行时间的局部算法实现？

主要发现

• 该论文实现了新的导出率保证 Õ(min{√φ(A), φ(A)/√Conn(A)})，当 Conn(A) 较大时，优于先前的 Õ(√φ(A)) 边界。
• 对于内部连通性高的聚类（即 Conn(A) = Ω(λ(A)/log n)），导出率保证变为 Õ(φ(A)/√λ(A))，与全局谱方法的改进版Cheeger不等式一致。
• 理论分析表明，所提算法的性能是紧致的，即在无额外假设下，该边界无法被显著改进。
• 在合成图与真实世界图上的实验评估表明，该算法在高度内部连通的聚类上显著优于先前方法。
• 该研究揭示了内部连通性是局部聚类中的一个基本参数，解释了现有基于随机游走的算法在理论与实践之间存在的差距。
• 该算法保持了较小的输出支持体积，且运行时间仅依赖于输出聚类大小，从而保持了可扩展性。