[论文解读] Clustering Signed Networks with the Geometric Mean of Laplacians

Pedro Mercado, Francesco Tudisco+1 more|arXiv (Cornell University)|Jan 3, 2017

Complex Network Analysis Techniques参考文献 20被引用 25

一句话总结

本文提出了一种新颖的谱聚类方法，用于有符号网络，利用正负图拉普拉斯矩阵的几何平均，相较于基于算术平均的方法，即使在一种网络类型（正或负）为无噪声时，也能更准确地恢复真实社区结构。该方法通过扩展Krylov子空间的逆幂法实现高效计算，在真实世界和合成有符号网络上表现出鲁棒的聚类性能。

ABSTRACT

Signed networks allow to model positive and negative relationships. We analyze existing extensions of spectral clustering to signed networks. It turns out that existing approaches do not recover the ground truth clustering in several situations where either the positive or the negative network structures contain no noise. Our analysis shows that these problems arise as existing approaches take some form of arithmetic mean of the Laplacians of the positive and negative part. As a solution we propose to use the geometric mean of the Laplacians of positive and negative part and show that it outperforms the existing approaches. While the geometric mean of matrices is computationally expensive, we show that eigenvectors of the geometric mean can be computed efficiently, leading to a numerical scheme for sparse matrices which is of independent interest.

研究动机与目标

• 解决现有谱聚类方法在有符号网络上的失效问题，特别是在正或负图之一为无噪声时。
• 阐明基于算术平均的拉普拉斯矩阵扩展为何在随机块模型中无法恢复真实聚类。
• 提出一种基于正负拉普拉斯矩阵几何平均的新谱聚类框架，以确保更优的聚类恢复。
• 设计一种高效数值算法，无需显式构造矩阵即可计算几何平均拉普拉斯矩阵的主导特征向量。
• 在真实世界有符号网络和基准数据集上验证该方法，展示其优越的聚类性能。

提出的方法

• 该方法将新的有符号图拉普拉斯矩阵定义为正负图拉普拉斯矩阵的几何平均，记为 $ L_{GM} = L^+ \# L^- $，其为半正定，能更准确地捕捉平衡的社区结构。
• 采用带扩展Krylov子空间技术的逆幂法，无需显式构造几何平均矩阵即可计算 $ L_{GM} $ 的主导特征向量。
• 通过求解涉及 $ L^+ $ 和 $ L^- $ 的线性系统，避免了矩阵几何平均的计算开销，从而实现对稀疏有符号网络的可扩展性。
• 采用移位-逆变换策略，聚焦于 $ L_{GM} $ 的最小特征值，这些特征值对应于嵌入中的聚类结构。
• 将该方法集成到标准谱聚类流程中：计算 $ L_{GM} $ 的特征向量，将节点嵌入到 $ \mathbb{R}^k $，并应用 $ k $-均值聚类。
• 该框架在MATLAB中实现，并在真实世界和UCI数据集上进行测试，与 $ L_{SN}, L_{BN}, L_{AM} $ 进行比较。

实验结果

研究问题

• RQ1 为何现有有符号网络谱聚类方法即使在无噪声条件下也无法恢复真实聚类？
• RQ2 正负图拉普拉斯矩阵的几何平均是否能提供比算术平均方法更鲁棒、更准确的谱嵌入？
• RQ3 对于大规模稀疏有符号网络，计算几何平均拉普拉斯矩阵的主导特征向量在计算上是否可行？
• RQ4 与现有方法相比，几何平均拉普拉斯矩阵在真实世界有符号网络上的表现如何？
• RQ5 当其中一个网络（正或负）含有显著噪声时，几何平均方法是否仍保持鲁棒性？

主要发现

• 即使仅 $ G^+ $ 或 $ G^- $ 之一为完全结构化，几何平均拉普拉斯矩阵 $ L_{GM} $ 仍能成功恢复随机块模型中的真实聚类，而基于算术平均的方法则不能。
• 在Wikipedia管理员选举数据集上，$ L_{GM} $ 是首个成功识别聚类结构的方法，而 $ L_{AM}, L_{BN}, L_{SN} $ 均未能检测到任何社区结构。
• 在UCI数据集上，$ L_{GM} $ 在所有测试的 $ k^+, k^- $ 组合中，有59.4%至87.5%的情况下达到最佳或严格最佳聚类误差，显著优于其他方法。
• 该方法对负图中的噪声保持鲁棒：当 $ W^- $ 通过 $ k^{-} $-远端邻居图构建（一种噪声代理）时，$ L_{GM} $ 保持低聚类误差，而 $ L_{SN} $ 和 $ L_{BN} $ 的误差显著升高。
• 即使在节点数达70,000的图上，使用逆幂法与扩展Krylov方法的算法计算时间与标准谱聚类相当，仅相差一个常数因子。
• 通过不显式计算 $ L_{GM} $，该算法避免了内存溢出问题，从而实现了对大规模稀疏有符号网络的可扩展性。