[论文解读] Spectral Clustering of Signed Graphs via Matrix Power Means

Pedro Mercado, Francesco Tudisco+1 more|arXiv (Cornell University)|May 15, 2019

Complex Network Analysis Techniques被引用 13

一句话总结

本文引入了符号幂均值（SPM）拉普拉斯矩阵，这是一种单参数的矩阵幂均家族，用于在谱聚类中融合正负图交互。证明了SPM拉普拉斯矩阵在比当前最先进方法更宽松的条件下恢复真实聚类，特别是在 $p \to -\infty$ 的极限下，并在随机块模型下建立了特征值与特征向量的集中性。

ABSTRACT

Signed graphs encode positive (attractive) and negative (repulsive) relations between nodes. We extend spectral clustering to signed graphs via the one-parameter family of Signed Power Mean Laplacians, defined as the matrix power mean of normalized standard and signless Laplacians of positive and negative edges. We provide a thorough analysis of the proposed approach in the setting of a general Stochastic Block Model that includes models such as the Labeled Stochastic Block Model and the Censored Block Model. We show that in expectation the signed power mean Laplacian captures the ground truth clusters under reasonable settings where state-of-the-art approaches fail. Moreover, we prove that the eigenvalues and eigenvector of the signed power mean Laplacian concentrate around their expectation under reasonable conditions in the general Stochastic Block Model. Extensive experiments on random graphs and real world datasets confirm the theoretically predicted behaviour of the signed power mean Laplacian and show that it compares favourably with state-of-the-art methods.

研究动机与目标

• 解决现有谱聚类方法在有符号图中对正负边无法最优结合的局限性。
• 开发一个统一框架，通过矩阵幂均将算术与几何平均基拉普拉斯矩阵推广至有符号图。
• 证明所提出的SPM拉普拉斯矩阵在一般有符号随机块模型下，即使当前最先进方法失效，也能在期望下恢复真实聚类结构。
• 在采样图上建立SPM拉普拉斯矩阵特征值与特征向量围绕其期望的集中性，扩展理论保证。
• 通过大量实验表明，SPM拉普拉斯矩阵在合成与真实有符号网络上均优于现有方法。

提出的方法

• 将符号幂均（SPM）拉普拉斯矩阵定义为正负边的归一化标准拉普拉斯矩阵与无符号拉普拉斯矩阵的矩阵幂均。
• 使用参数 $p$ 的矩阵幂均在算术（$p=1$）、几何（$p=0$）与调和（$p=-1$）均值之间插值，且当 $p \to \infty$ 与 $p \to -\infty$ 时分别对应与（AND）与或（OR）逻辑。
• 在一般有符号随机块模型背景下分析SPM拉普拉斯矩阵，推导出在期望下恢复真实聚类结构的条件。
• 证明在温和条件下，SPM拉普拉斯矩阵的特征值与特征向量会围绕其期望集中，从而为采样图提供理论保证。
• 实现一种无矩阵的、基于多项式Krylov子空间的方法，高效计算主导特征向量，而无需显式构造高阶矩阵幂。
• 在合成与真实世界数据集上，将SPM拉普拉斯矩阵与当前最先进方法（如Bethe Hessian、归一化拉普拉斯矩阵与无符号归一化拉普拉斯矩阵）进行比较。

实验结果

研究问题

• RQ1 能否开发一个统一框架，利用矩阵幂均将有符号图中的正负图交互在谱聚类中有效结合？
• RQ2 在有符号随机块模型下，SPM拉普拉斯矩阵在何种条件下能在期望下恢复真实聚类结构？
• RQ3 幂均参数 $p$ 的选择如何影响聚类恢复的鲁棒性与性能？
• RQ4 在随机块模型设定下，SPM拉普拉斯矩阵的特征值与特征向量是否围绕其期望集中？
• RQ5 SPM拉普拉斯矩阵在真实世界与合成有符号网络上与现有最先进方法相比，实证表现如何？

主要发现

• 当 $p \to -\infty$ 时，SPM拉普拉斯矩阵在正或负交互任一信息充分时即可恢复聚类，对应一种类似或（OR）的条件。
• 当 $p \to \infty$ 时，SPM拉普拉斯矩阵仅在正负交互均信息充分时才可恢复聚类，对应一种类似与（AND）的条件。
• 对于有限 $p$，满足聚类恢复条件的比例随 $p$ 减小而增加，且 $\mathcal{L}_{-\infty}$ 始终满足条件。
• 在随机图实验中，SPM拉普拉斯矩阵在 $p \leq -2$ 时，聚类恢复准确率始终优于 $L_{SN}$、$L_{BN}$ 与Bethe Hessian。
• 用于计算SPM拉普拉斯矩阵特征向量的无矩阵Krylov方法，相比显式矩阵幂计算显著更快，尤其在大规模图上优势明显。
• 在Wikipedia数据上，$p = -10$ 与 $p = -5$ 的SPM拉普拉斯矩阵在邻接矩阵中清晰揭示了块结构，而其他方法未能恢复相同模式。