[논문 리뷰] Robustness of spectral methods for community detection

Ludovic Stephan, Laurent Massoulié|arXiv (Cornell University)|2018. 11. 14.

Complex Network Analysis Techniques참고 문헌 17인용 수 8

한 줄 요약

이 논문은 그래프 거리 $d(i,j) = \ell$일 때 $D^{(\ell)}_{ij} = 1$가 되는 $\delta$-거리 행렬 $D^{(\ell)}$를 기반으로 한 강건한 스펙트럴 커뮤니티 탐지 방법을 제안한다. $\ell \sim c\log n$일 때, $D^{(\ell)}$의 주요 고유벡터는 케스텐-스티그룸 임계값 이상에서 비자명한 커뮤니티 복구를 가능하게 한다. 이 방법은 $O(n^\varepsilon)$개의 정점에 영향을 미치는 적대적 편향에 대해서도 안정적이며, 이전의 스펙트럴 방법보다 강건성을 향상시키면서도 최적의 KS 임계값을 유지하고, 근선형 시간 내에 실행된다.

ABSTRACT

The present work is concerned with community detection. Specifically, we consider a random graph drawn according to the stochastic block model~: its vertex set is partitioned into blocks, or communities, and edges are placed randomly and independently of each other with probability depending only on the communities of their two endpoints. In this context, our aim is to recover the community labels better than by random guess, based only on the observation of the graph. In the sparse case, where edge probabilities are in $O(1/n)$, we introduce a new spectral method based on the distance matrix $D^{(l)}$, where $D^{(l)}_{ij} = 1$ iff the graph distance between $i$ and $j$, noted $d(i, j)$ is equal to $\ell$. We show that when $\ell \sim c\log(n)$ for carefully chosen $c$, the eigenvectors associated to the largest eigenvalues of $D^{(l)}$ provide enough information to perform non-trivial community recovery with high probability, provided we are above the so-called Kesten-Stigum threshold. This yields an efficient algorithm for community detection, since computation of the matrix $D^{(l)}$ can be done in $O(n^{1+κ})$ operations for a small constant $κ$. We then study the sensitivity of the eigendecomposition of $D^{(l)}$ when we allow an adversarial perturbation of the edges of $G$. We show that when the considered perturbation does not affect more than $O(n^\varepsilon)$ vertices for some small $\varepsilon > 0$, the highest eigenvalues and their corresponding eigenvectors incur negligible perturbations, which allows us to still perform efficient recovery.

연구 동기 및 목표

• 희박한 스토하스틱 블록 모델(SBM)에서 적대적 편향에 강건한 스펙트럴 커뮤니티 탐지 방법을 개발하는 것.
• 정보이론적으로 최적으로 추측되는 케스텐-스티그룸(KS) 임계값까지 부분적 커뮤니티 복구를 달성하는 것.
• 기존 스펙트럴 방법의 기술적 가정(예: 고유벡터의 비대칭성)을 제거하고 정점 수준의 편향에 대한 안정성을 향상시키는 것.
• 근선형 시간 복잡도를 가지며, 더 느린 SDP 기반 방법보다 뛰어난 효율성을 갖춘 알고리즘을 설계하는 것.

제안 방법

• 그래프 거리 $d(i,j) = \ell$일 때 $D^{(\ell)}_{ij} = 1$인 거리 행렬 $D^{(\ell)}$를 사용하는 새로운 스펙트럴 방법을 제안한다.
• Sparse한 상황에서 고유값 분리가 일어나는 것을 고려해, $D^{(\ell)}$의 가장 큰 고유값에 대응하는 고유벡터를 사용하여 커뮤니티 할당을 수행한다.
• 최대 $\gamma = o\left(\frac{(\mu_2^2/\mu_1)^{\ell/2}}{\log n}\right)$개의 정점에 영향을 미치는 적대적 편향에 대한 $D^{(\ell)}$의 고유분해 안정성을 분석한다.
• 이론적 다리로 경로 확장 행렬 $B^{(\ell)}$를 사용하여, $D^{(\ell)}$에 대해서도 동일한 복구 임계값이 유지됨을 증명한다.
• 커뮤니티 레이블 추정을 위해 주요 고유벡터에 순열 불변 클러스터링 절차를 적용한다.
• 적절한 조건 $\mu_2^2 > \mu_1$ 하에서 $\ell \sim \delta \log n$이면, 이 방법이 부분적 복구를 고려 확률적으로 달성할 수 있음을 입증한다.

실험 결과

연구 질문

• RQ1 그래프 거리 $d(i,j) = \ell$를 기반으로 한 스펙트럴 방법이 희박한 SBM에서 비자명한 커뮤니티 탐지에 성공할 수 있는가?
• RQ2 이 방법은 오직 $O(n^\varepsilon)$개의 정점에 영향을 미치는 적대적 편향에 대해서도 효과적으로 작동하는가?
• RQ3 이 방법은 케스텐-스티그룸 임계값까지 부분적 복구를 달성할 수 있으며, 이는 정보이론적 한계와 일치하는가?
• RQ4 이 방법의 런타임은 기존의 SDP 기반 방법과 비교해 어떻게 되는가?
• RQ5 작은 클리크나 조밀한 하위그래프로 인한 국소적 고유벡터 문제로 인해 기존 스펙트럴 방법에서 발생하는 불안정성에 대해 이 방법은 강건한가?

주요 결과

• 적절한 조건 $\mu_2^2 > \mu_1$ 하에서, $\ell \sim \delta \log n$이면 소수의 $\delta$에 대해 이 방법은 높은 확률로 부분적 커뮤니티 복구를 달성한다.
• 이 방법은 $D^{(\ell)}$ 기반 알고리즘으로 케스텐-스티그룸 임계값까지 비자명한 복구를 달성하며, 이는 최적으로 추측되는 것으로 알려져 있다.
• 이 방법은 $\gamma = o\left(\frac{(\mu_2^2/\mu_1)^{\ell/2}}{\log n}\right)$개의 정점에 영향을 미치는 적대적 편향에 대해 안정적이며, 이는 최대 $O(n^\varepsilon)$개의 정점에 편향이 가해져도 복구가 가능함을 의미한다.
• 알고리즘의 런타임은 최대 $O(n^{13/12})$이며, 일반적인 SDP 기반 방법보다 훨씬 빠르다.
• 기존 스펙트럴 방법에서 요구하던 블록 확률 행렬 $W$의 기술적 비대칭 조건을 제거하였다.
• 이 방법은 정점 수준의 편향에 대한 강건성을 기존 스펙트럴 방법보다 향상시켰지만, SDP 방법이 달성한 $o(n)$ 엣지 편향 한계에는 미치지 못한다.