[논문 리뷰] Community detection thresholds and the weak Ramanujan property

Laurent Massoulié|HAL (Le Centre pour la Communication Scientifique Directe)|2013. 11. 13.

Complex Network Analysis Techniques참고 문헌 4인용 수 15

한 줄 요약

이 논문은 희박한 스토하스틱 블록 모델에서 커뮤니티 검출 임계값에 대한 오랫동안 남아있던 추측을 해결한다. 자기 피하기 경로 길이 $\ell$를 세는 수정된 인접행렬 $B$를 도입함으로써, 저자들은 $B$의 약한 라마누잔 성질을 증명함으로써, 주어진 추측된 임계값까지 비트리비얼한 커뮤니티 재구성 가능성을 입증한다. 이는 희박한 그래프에서 커뮤니티 검출의 긍정적 전이를 확립한다.

ABSTRACT

Decelle et al.\cite{Decelle11} conjectured the existence of a sharp threshold for community detection in sparse random graphs drawn from the stochastic block model. Mossel et al.\cite{Mossel12} established the negative part of the conjecture, proving impossibility of meaningful detection below the threshold. However the positive part of the conjecture remained elusive so far. Here we solve the positive part of the conjecture. We introduce a modified adjacency matrix $B$ that counts self-avoiding paths of a given length $\ell$ between pairs of nodes and prove that for logarithmic $\ell$, the leading eigenvectors of this modified matrix provide non-trivial detection, thereby settling the conjecture. A key step in the proof consists in establishing a {\em weak Ramanujan property} of matrix $B$. Namely, the spectrum of $B$ consists in two leading eigenvalues $ρ(B)$, $λ_2$ and $n-2$ eigenvalues of a lower order $O(n^ε\sqrt{ρ(B)})$ for all $ε>0$, $ρ(B)$ denoting $B$'s spectral radius. $d$-regular graphs are Ramanujan when their second eigenvalue verifies $|λ|\le 2 \sqrt{d-1}$. Random $d$-regular graphs have a second largest eigenvalue $λ$ of $2\sqrt{d-1}+o(1)$ (see Friedman\cite{friedman08}), thus being {\em almost} Ramanujan. Erdős-Rényi graphs with average degree $d$ at least logarithmic ($d=Ω(\log n)$) have a second eigenvalue of $O(\sqrt{d})$ (see Feige and Ofek\cite{Feige05}), a slightly weaker version of the Ramanujan property. However this spectrum separation property fails for sparse ($d=O(1)$) Erdős-Rényi graphs. Our result thus shows that by constructing matrix $B$ through neighborhood expansion, we regularize the original adjacency matrix to eventually recover a weak form of the Ramanujan property.

연구 동기 및 목표

• 희박한 스토하스틱 블록 모델에서 커뮤니티 검출에 대한 Decelle 등이 제기한 낼맞는 임계값에 대한 추측의 긍정적 부분을 해결하기 위해.
• 높은 차수를 가진 노드로 인한 스펙트럼 오염으로 인해 희박한 에르되시-레니 수학적 그래프에서 스펙트럼 방법이 실패하는 문제를 극복하기 위해.
• 이웃 확장 방식으로 구성된 새로운 행렬 $B$에 대해 약한 라마누잔 성질을 확립하여 스펙트럼 분리를 복원하기 위해.
• 행렬 $B$의 주요 고유벡터들이 추측된 임계값까지 숨겨진 커뮤니티를 비트리비얼하게 재구성할 수 있음을 보여주기 위해.
• 정보 이론적 한계까지 진짜 커뮤니티 레이블과 양의 상관관계를 달성하는 스펙트럼 방법을 제공하기 위해.

제안 방법

• 노드 쌍 간의 자기 피하기 경로 길이 $\ell$의 수를 세는 수정된 인접행렬 $B^{(\ell)}$를 구성하기 위해.
• 충분한 확장과 경로 겹침 통제를 위해 로그 길이 $\ell = \Theta(\log n)$를 사용하기 위해.
• 행렬 $B$가 약한 라마누잔 성질을 만족함을 증명하기 위해: 스펙트럼 반경 $\rho(B)$, 두 번째 고유값 $\lambda_2$, 나머지 $n-2$개 고유값이 모든 $\epsilon > 0$에 대해 $O(n^{\epsilon}\sqrt{\rho(B)})$로 유계임을 보임.
• 행렬 $B$의 주요 고유벡터에 스펙트럼 클러스터링을 적용하여 커뮤니티 레이블을 재구성하기 위해.
• 경로 수의 두 번째 모멘트 분석과 변동성 통제를 위해 분기 과정과 트리 모델을 사용한 커플링 추론을 적용하기 위해.
• 농도 불등식과 정리 2.3, 보조정리 4.6/4.1의 결과를 활용하여 $B^{(\ell)}\sigma$와 $B^{(\ell)}e$의 행동을 통제하기 위해.

실험 결과

연구 질문

• RQ1 희박한 스토하스틱 블록 모델에서 추측된 임계값까지 비트리비얼한 커뮤니티 검출을 달성할 수 있는 스펙트럼 방법이 존재하는가?
• RQ2 희박한 에르되시-레니 그래프에서 높은 차수를 가진 노드로 인한 스펙트럼 오염을 어떻게 정규화하여 스펙트럼 분리를 복원할 수 있는가?
• RQ3 희박한 영역에서 약한 라마누잔 성질을 만족하는 행렬 구조가 존재하는가? 이는 강건한 커뮤니티 검출을 가능하게 하는가?
• RQ4 원래 인접행렬이 실패하는 상황에서도 경로 수행 행렬 $B$의 주요 고유벡터가 기저 커뮤니티 구조를 반영할 수 있는가?
• RQ5 로그 길이 $\ell$에 대해 $B^{(\ell)}$의 스펙트럼의 渐近적 행동은 어떠한가? 그리고 이는 커뮤니티 검출 임계값과 어떻게 관련이 있는가?

주요 결과

• 자기 피하기 경로 길이 $\ell = \Theta\left(\log n\right)$를 세는 수정된 행렬 $B^{(\ell)}$는 모든 $\epsilon > 0$에 대해 $n-2$개의 고유값이 $O\left(n^{\epsilon}\sqrt{\rho(B)}\right)$로 유계임을 만족하는 약한 라마누잔 성질을 갖는다.
• $B^{(\ell)}$의 주요 고유벡터는 진짜 커뮤니티 레이블과 비트리비얼한 상관관계를 달성함으로써, Decelle 등이 제기한 추측의 긍정적 부분을 확인한다.
• 스펙트럼 반경 $\rho(B)$와 두 번째 고유값 $\lambda_2$는 전체 스펙트럼에서 분리되어 있어 강건한 커뮤니티 검출이 가능하다.
• 이 방법은 추측된 임계값까지 재구성 가능하며, 커뮤니티 검출 분야에서 오랫동안 남아있던 열린 문제를 해결한다.
• 분석 결과 $|B^{(\ell)}\sigma| = \tilde{O}\left(\sqrt{n}\beta^{\ell}\right)$ 및 $|B^{(\ell)}e| = \Theta\left(\sqrt{n}\alpha^{\ell}\right)$이며, $\alpha > \beta > 0$이므로 신호 강도가 확보된다.
• 스칼라 곱 $\langle S_{\ell}(i), D_{\ell}(i) \rangle$는 $o\left(|S_{\ell}(i)| \cdot |D_{\ell}(i)|\right)$로 표현되어 고유벡터 내에서 신호와 구조의 정렬을 확인한다.