[论文解读] GANC: Greedy Agglomerative Normalized Cut

Seyed Salim Tabatabaei, Mark Coates+1 more|arXiv (Cornell University)|May 5, 2011

Complex Network Analysis Techniques参考文献 53被引用 7

一句话总结

本文提出 GANC，一种可扩展的图聚类算法，通过结合贪心凝聚层次聚类、基于曲率分析的模型阶数选择以及局部优化，最大化归一化关联度。该算法在归一化割最小化方面达到谱聚类的性能水平，时间复杂度为 O(n log²n)，可在包含数百万个节点的图上实现高效聚类，在大规模网络的可扩展性和聚类质量方面优于现有方法。

ABSTRACT

This paper describes a graph clustering algorithm that aims to minimize the normalized cut criterion and has a model order selection procedure. The performance of the proposed algorithm is comparable to spectral approaches in terms of minimizing normalized cut. However, unlike spectral approaches, the proposed algorithm scales to graphs with millions of nodes and edges. The algorithm consists of three components that are processed sequentially: a greedy agglomerative hierarchical clustering procedure, model order selection, and a local refinement. For a graph of n nodes and O(n) edges, the computational complexity of the algorithm is O(n log^2 n), a major improvement over the O(n^3) complexity of spectral methods. Experiments are performed on real and synthetic networks to demonstrate the scalability of the proposed approach, the effectiveness of the model order selection procedure, and the performance of the proposed algorithm in terms of minimizing the normalized cut metric.

研究动机与目标

• 开发一种可扩展的图聚类算法，以低计算复杂度最小化归一化割。
• 解决谱聚类方法的可扩展性限制，其时间复杂度为 O(n³)，在大规模图上不可行。
• 引入一种模型阶数选择方法，可自动确定最优聚类数，无需依赖启发式方法或内在分辨率限制。
• 在保持与谱方法相当的聚类质量的同时，通过层次聚类实现多分辨率分析。
• 为大规模现实世界网络（包括社交网络、生物网络和交通网络）提供谱聚类的实用替代方案。

提出的方法

• 该算法采用基于归一化关联度的贪心凝聚层次聚类过程，通过迭代合并节点，稀疏图上的时间复杂度为 O(n log²n)。
• 采用基于曲率的模型阶数选择方法，通过分析不同聚类数下归一化关联度的相对提升，识别最优聚类数。
• 通过迭代重新分配边界节点至邻近聚类，实现优化步骤，使用高效的映射数据结构以最小化开销。
• 该方法设计为凝聚且层次化，可提取多分辨率下的聚类，与每次迭代合并多个节点的算法不同。
• 通过直接优化归一化关联度，避免特征分解，结合迭代合并与优化，实现线性可扩展性。
• 通过允许用户指定聚类数范围，将方法扩展至多分辨率分析，曲率度量在该范围内选择最优模型阶数。

实验结果

研究问题

• RQ1 是否能设计一种图聚类算法，在实现与谱方法相当的归一化割最小化性能的同时，可扩展至包含数百万个节点的图？
• RQ2 基于曲率的模型阶数选择方法是否能有效识别最优聚类数，且不受模块度分辨率限制的影响？
• RQ3 在大规模网络中，基于局部优化的贪心凝聚方法是否能优于现有可扩展聚类算法，在归一化关联度方面表现更优？
• RQ4 与非层次或固定合并策略的算法相比，GANC 的层次结构如何实现多分辨率聚类？
• RQ5 优化步骤在计算开销可忽略的情况下，能多大程度上提升聚类质量？

主要发现

• GANC 实现的归一化关联度与依赖昂贵特征分解的谱聚类方法相当，同时运行时间复杂度为 O(n log²n)。
• 在包含数百万个节点的大规模网络中，GANC 在归一化关联度方面优于唯一其他可比算法（Dhillon-Guan-Kulis），尤其在识别高度连通、孤立的社区方面表现更优。
• 基于曲率的模型阶数选择方法避免了模块度固有的分辨率限制，能够准确检测多尺度下的聚类。
• 尽管计算开销轻量，优化步骤显著提升了归一化关联度，证明了局部优化的有效性。
• GANC 能够从大规模图的外围成功提取出小而高度凝聚的聚类（大小为 7–225），同时核心聚类自然显现，可进一步细分，而不会像其他算法那样产生过大核心聚类。
• 该算法是首个支持任意多分辨率聚类的可扩展归一化关联度最大化方法，适用于多种类型网络中的社区检测。