[论文解读] Clustering Sparse Graphs

Yudong Chen, Sujay Sanghavi+1 more|arXiv (Cornell University)|Oct 11, 2012

Complex Network Analysis Techniques参考文献 23被引用 44

一句话总结

该论文提出了一种用于稀疏图聚类的凸化最大似然算法，在随机块模型中显著优于现有方法，其性能接近理论下限的对数因子。该方法在具有异质度分布、不等簇大小、异常值及其他复杂结构的半随机模型中也表现出良好的泛化能力。

ABSTRACT

Graph clustering involves the task of partitioning nodes, so that the edge density is higher within partitions as opposed to across partitions. A natural, classic and popular statistical setting for evaluating solutions to this problem is the stochastic block model, also referred to as the planted partition model. In this paper we present a new algorithm- a convexified version of Maximum Likelihood- for graph clustering. We show that, in the classic stochastic block model setting, it outperforms all existing methods by polynomial factors. In fact, it is within logarithmic factors of known lower bounds for spectral methods, and there is evidence suggesting that no polynomial time algorithm would do significantly better. We then show that this guarantee carries over to a more general semi-random extension of the stochastic block model; our method can handle the settings of semi-random graphs, heterogeneous degree distributions, unequal cluster sizes, outlier nodes, planted k-cliques, planted coloring etc.

研究动机与目标

• 开发一种新型图聚类算法，使其在稀疏图设置下优于现有方法。
• 解决现有方法在处理异质度分布、不等簇大小和异常节点时的局限性。
• 将经典随机块模型中的性能保证扩展到更现实的半随机图模型。
• 在已知理论下限的对数因子内实现接近最优的聚类性能。

提出的方法

• 所提出的方法采用图聚类最大似然估计框架的凸松弛。
• 它将非凸聚类优化问题转化为凸规划，以确保可计算性和全局最优解。
• 该算法旨在最大化簇内观测边的似然性和簇间非边的似然性。
• 通过正则化处理稀疏图，提高对噪声和异常值的鲁棒性。
• 通过在对抗性扰动下保持性能，该方法自然推广到半随机模型。
• 即使在簇大小不等或度分布异质的情况下，该方法仍保持强理论保证。

实验结果

研究问题

• RQ1 与现有方法相比，凸化最大似然方法是否能在稀疏图中实现更优的聚类性能？
• RQ2 在具有对抗性扰动的半随机图模型中，该算法表现如何？
• RQ3 该方法在多大程度上能处理异质度分布和不等簇大小？
• RQ4 在存在异常节点及植入的子结构（如k-团或着色）时，该算法是否保持强性能？
• RQ5 该方法的性能与多项式时间聚类算法的理论下限有多接近？

主要发现

• 在随机块模型中，该算法优于所有现有方法，性能提升达多项式因子。
• 其性能在对数因子内接近谱方法的已知下限。
• 有证据表明，不存在多项式时间算法能显著优于该方法。
• 该方法在半随机模型中具有稳健的泛化能力，包括具有异质度分布和不等簇大小的情况。
• 在对抗性扰动及存在异常节点的情况下，该方法仍保持强聚类准确性。
• 该算法能成功处理复杂植入结构（如k-团和着色），且性能无下降。