[论文解读] AMOS: An Automated Model Order Selection Algorithm for Spectral Graph Clustering

Pin‐Yu Chen, Thibaut Gensollen+1 more|arXiv (Cornell University)|Sep 21, 2016

Complex Network Analysis Techniques参考文献 24被引用 3

一句话总结

AMOS 是一种用于谱图聚类的自动化模型阶数选择算法，通过在随机互连模型下，利用统计可靠性度量逐步测试聚类结果，实现具有保证可靠性的最小模型阶数。该方法在真实世界数据集上，于多种外部和内部聚类指标下均优于现有方法。

ABSTRACT

One of the longstanding problems in spectral graph clustering (SGC) is the so-called model order selection problem: automated selection of the correct number of clusters. This is equivalent to the problem of finding the number of connected components or communities in an undirected graph. In this paper, we propose AMOS, an automated model order selection algorithm for SGC. Based on a recent analysis of clustering reliability for SGC under the random interconnection model, AMOS works by incrementally increasing the number of clusters, estimating the quality of identified clusters, and providing a series of clustering reliability tests. Consequently, AMOS outputs clusters of minimal model order with statistical clustering reliability guarantees. Comparing to three other automated graph clustering methods on real-world datasets, AMOS shows superior performance in terms of multiple external and internal clustering metrics.

研究动机与目标

• 解决谱图聚类中长期存在的模型阶数选择问题——自动确定正确的聚类数量。
• 在随机互连模型（RIM）下，为谱图聚类提供聚类可靠性的统计保证。
• 开发一种自动化算法，识别最小聚类数，同时确保高聚类质量。
• 克服基于启发式或优化的方法在特征向量选择上缺乏理论依据的局限性。
• 实现在无需真实聚类数先验知识的前提下，对真实世界图进行稳健、可靠且自动化的聚类。

提出的方法

• 从 2 开始逐步增加聚类数至最大值，在每一步应用谱图聚类。
• 使用随机互连模型（RIM）将聚间连接建模为独立的伯努利或有界权重随机变量。
• 通过基于最大聚间边权比的多阶段统计假设检验来估计聚类可靠性。
• 对最大聚间权重比应用置信区间检验，以评估当前聚类是否具有统计可靠性。
• 使用条件 $\prod_{i<j} F_{ij}(\widehat{t}_{\text{LB}} / \widehat{\overline{W}}_{ij}, \widehat{p}_{ij}) \geq 1 - \alpha'$ 来验证可靠性，其中 $F_{ij}$ 综合了正态分布和指示函数。
• 在首个通过所有可靠性检验的 $K$ 处终止，确保在统计置信下实现最小模型阶数。

实验结果

研究问题

• RQ1 在随机互连模型下，能够实现统计可靠聚类的最小聚类数是多少？
• RQ2 如何在不知道真实聚类数的情况下，自动配置谱图聚类？
• RQ3 能否以系统化的方式使用统计假设检验来验证谱聚类的聚类可靠性？
• RQ4 AMOS 在外部和内部聚类指标方面与现有自动化聚类方法相比表现如何？
• RQ5 所提出的方法在具有不同聚类配置的多样化真实世界图结构上是否保持高性能？

主要发现

• 在 IEEE RTS 数据集上，AMOS 达到了最高的标准化互信息（NMI）得分 0.89，优于 Louvain（0.74）、NB（0.75）和 ST（0.73）。
• 在 Hibernia 数据集上，AMOS 实现了最佳的兰德指数（RI）1.0 和 F-measure 0.94，优于所有其他方法。
• 在 Cogent 数据集上，AMOS 识别出 4 个聚类，实现了最低的标准化割（NC）0.036，优于 NB（0.073）和 ST（0.148）。
• 在明尼苏达州道路网络上，AMOS 选择了 46 个聚类，实现了最佳的导出率（C）0.074，优于 Louvain（0.290）和 NB（0.186）。
• 在 Facebook 网络中，AMOS 实现了最低的 F-measure（0.004）和导出率（0.006），表明其在高复杂度下仍具有强大性能。
• 在所有数据集上，AMOS 在大多数聚类指标上均达到最佳或相当水平，展现出鲁棒性和可靠性。