[论文解读] Robustness of spectral methods for community detection

Ludovic Stephan, Laurent Massoulié|arXiv (Cornell University)|Nov 14, 2018

Complex Network Analysis Techniques参考文献 17被引用 8

一句话总结

该论文提出了一种基于 $\delta$-距离矩阵 $D^{(\ell)}$ 的鲁棒谱社区检测方法，其中 $D^{(\ell)}_{ij} = 1$ 当图距离 $d(i,j) = \ell$。当 $\ell \sim c\log n$ 时，$D^{(\ell)}$ 的主特征向量可在 Kesten-Stigum 阈值之上实现非平凡的社区恢复。该方法在影响 $O(n^\varepsilon)$ 个顶点的对抗性扰动下仍保持稳定，其鲁棒性优于以往的谱方法，同时达到最优的 KS 阈值，并以近乎线性时间运行。

ABSTRACT

The present work is concerned with community detection. Specifically, we consider a random graph drawn according to the stochastic block model~: its vertex set is partitioned into blocks, or communities, and edges are placed randomly and independently of each other with probability depending only on the communities of their two endpoints. In this context, our aim is to recover the community labels better than by random guess, based only on the observation of the graph. In the sparse case, where edge probabilities are in $O(1/n)$, we introduce a new spectral method based on the distance matrix $D^{(l)}$, where $D^{(l)}_{ij} = 1$ iff the graph distance between $i$ and $j$, noted $d(i, j)$ is equal to $\ell$. We show that when $\ell \sim c\log(n)$ for carefully chosen $c$, the eigenvectors associated to the largest eigenvalues of $D^{(l)}$ provide enough information to perform non-trivial community recovery with high probability, provided we are above the so-called Kesten-Stigum threshold. This yields an efficient algorithm for community detection, since computation of the matrix $D^{(l)}$ can be done in $O(n^{1+κ})$ operations for a small constant $κ$. We then study the sensitivity of the eigendecomposition of $D^{(l)}$ when we allow an adversarial perturbation of the edges of $G$. We show that when the considered perturbation does not affect more than $O(n^\varepsilon)$ vertices for some small $\varepsilon > 0$, the highest eigenvalues and their corresponding eigenvectors incur negligible perturbations, which allows us to still perform efficient recovery.

研究动机与目标

• 开发一种用于稀疏随机块模型（SBM）中社区检测的谱方法，使其对对抗性扰动具有鲁棒性。
• 在 Kesten-Stigum（KS）阈值下实现部分社区恢复，该阈值被推测为信息论最优。
• 通过消除如特征向量不对称性等技术假设，改进现有谱方法，并增强其在顶点级扰动下的稳定性。
• 设计一种高效算法，具有近乎线性时间复杂度，优于较慢的 SDP 方法。

提出的方法

• 提出一种新的谱方法，使用距离矩阵 $D^{(\ell)}$，其中 $D^{(\ell)}_{ij} = 1$ 当图距离 $d(i,j) = \ell$。
• 利用 $D^{(\ell)}$ 的最大特征值对应的特征向量进行社区分配，借助稀疏情形下特征值的分离特性。
• 分析 $D^{(\ell)}$ 的特征分解在最多影响 $\gamma = o\left(\frac{(\mu_2^2/\mu_1)^{\ell/2}}{\log n}\right)$ 个顶点的对抗性扰动下的稳定性。
• 使用路径展开矩阵 $B^{(\ell)}$ 作为理论桥梁，证明 $D^{(\ell)}$ 也具有相同的恢复阈值。
• 对主特征向量应用一种置换不变的聚类过程以估计社区标签。
• 证明当 $\ell \sim \delta \log n$ 且 $\mu_2^2 > \mu_1$ 时，该方法可实现部分恢复。

实验结果

研究问题

• RQ1 基于图距离 $d(i,j) = \ell$ 的谱方法是否能在稀疏 SBM 中实现非平凡的社区检测？
• RQ2 该方法在仅影响 $O(n^\varepsilon)$ 个顶点的对抗性扰动下是否仍有效？
• RQ3 该方法能否实现至 Kesten-Stigum 阈值的部分恢复，达到信息论极限？
• RQ4 该方法的运行时间与现有 SDP 方法相比如何？
• RQ5 该方法是否对由小团或稠密子图引起的局域特征向量具有鲁棒性，如以往谱方法所见？

主要发现

• 当 $\ell \sim \delta \log n$ 且 $\delta$ 足够小时，在 $\mu_2^2 > \mu_1$ 条件下，该方法以高概率实现部分社区恢复。
• 基于 $D^{(\ell)}$ 的算法可实现至 Kesten-Stigum 阈值的非平凡恢复，该阈值被推测为最优。
• 该方法在影响 $\gamma = o\left(\frac{(\mu_2^2/\mu_1)^{\ell/2}}{\log n}\right)$ 个顶点的对抗性扰动下保持稳定，使得在最多 $O(n^\varepsilon)$ 个顶点被扰动时仍可实现恢复。
• 该算法的运行时间最多为 $O(n^{13/12})$，显著快于典型的 SDP 方法。
• 该方法消除了以往谱方法（如使用 $B^{(\ell)}$ 的方法）对块概率矩阵 $W$ 所需的技术不对称性条件。
• 该方法在顶点级扰动下的鲁棒性优于现有谱方法，但尚未达到 SDP 方法所实现的 $o(n)$ 边扰动边界。