[论文解读] Spectral clustering via adaptive layer aggregation for multi-layer networks

Sihan Huang, Haolei Weng+1 more|arXiv (Cornell University)|Dec 7, 2020

Complex Network Analysis Techniques参考文献 100被引用 6

一句话总结

本文提出了一种用于多层网络谱聚类的自适应层聚合方法，通过加权邻接矩阵的凸组合来改进社区检测。该方法在特定模型下渐近最小化误差，从而实现最优的误聚类误差，并在结合高斯混合模型时相较于k-means展现出更优性能。

ABSTRACT

One of the fundamental problems in network analysis is detecting community structure in multi-layer networks, of which each layer represents one type of edge information among the nodes. We propose integrative spectral clustering approaches based on effective convex layer aggregations. Our aggregation methods are strongly motivated by a delicate asymptotic analysis of the spectral embedding of weighted adjacency matrices and the downstream $k$-means clustering, in a challenging regime where community detection consistency is impossible. In fact, the methods are shown to estimate the optimal convex aggregation, which minimizes the mis-clustering error under some specialized multi-layer network models. Our analysis further suggests that clustering using Gaussian mixture models is generally superior to the commonly used $k$-means in spectral clustering. Extensive numerical studies demonstrate that our adaptive aggregation techniques, together with Gaussian mixture model clustering, make the new spectral clustering remarkably competitive compared to several popularly used methods.

研究动机与目标

• 解决每层网络编码不同类型节点关系的多层网络中的社区检测问题。
• 开发一种凸层聚合方法，在一致性不可达的挑战性渐近条件下最小化误聚类误差。
• 证明在多层网络的谱聚类中，高斯混合模型聚类优于k-means。
• 在专门的多层网络模型下，为所提方法建立理论保证。

提出的方法

• 该方法使用多个网络层的加权邻接矩阵的凸组合，形成统一的网络表示。
• 在聚合矩阵上应用谱聚类，利用邻接矩阵的特征分解将节点嵌入到低维空间。
• 通过特征值比和误聚类误差的渐近分析，自适应地估计最优凸权重。
• 采用改进的David-Kahan定理来控制谱嵌入中的扰动影响。
• 使用Rademacher对称化和浓度不等式来控制邻接矩阵偏差的算子范数。
• 在嵌入空间中使用高斯混合模型进行聚类，替代标准的k-means以提高准确性。

实验结果

研究问题

• RQ1 当单个层较弱或噪声较大时，凸层聚合是否能改进多层网络中的社区检测？
• RQ2 在具有挑战性的渐近条件下，是否存在理论上最优的层凸组合，可使误聚类误差最小化？
• RQ3 在多层网络的谱聚类中，高斯混合模型聚类是否优于k-means？
• RQ4 特征值比和谱扰动界如何与多层设置下社区检测的一致性相关？

主要发现

• 所提出的自适应层聚合方法在专门的多层网络模型下，实现了最小化误聚类误差的最优凸组合。
• 该方法表现出强理论一致性，谱嵌入扰动通过David-Kahan定理和浓度不等式得到控制。
• 与k-means相比，高斯混合模型聚类在嵌入空间中显著降低了误聚类误差。
• 嵌入节点向量的渐近分布收敛到多元正态分布，其均值和协方差依赖于社区结构和层权重。
• 证明了邻接矩阵偏差的特征值比和谱范数为 O_p(d_n)，从而在嵌入空间中实现误差控制。
• 数值实验结果证实，该方法在多个基准设置下均优于主流替代方法，在社区检测准确性方面表现更优。