[논문 리뷰] Information-theoretic thresholds for community detection in sparse networks

Jess Banks, Cristopher Moore외 2명|arXiv (Cornell University)|2016. 07. 06.

Complex Network Analysis Techniques참고 문헌 26인용 수 42

한 줄 요약

이 논문은 희박한 스토하스틱 블록 모델에서 커뮤니티 탐지에 대한 정보 이론적 한계를 설정하며, 평균 차수 $ d_c = \Theta\left(\frac{\log q}{q\lambda^2}\right) $ 에 도달할 때 커뮤니티 탐지가 가능하다는 것을 보여준다. 여기서 $ \lambda $ 는 커뮤니티 강도를 측정한다. 이 임계값을 초과하면 심으신 구조와 관련성이 있는 모든 분할을 찾을 수 있으며, 이하일 경우 어떤 알고리즘도 높은 확률로 무작위 그래프와 커뮤니티를 구분할 수 없다.

ABSTRACT

We give upper and lower bounds on the information-theoretic threshold for community detection in the stochastic block model. Specifically, consider the symmetric stochastic block model with $q$ groups, average degree $d$, and connection probabilities $c_ ext{in}/n$ and $c_ ext{out}/n$ for within-group and between-group edges respectively; let $λ= (c_ ext{in}-c_ ext{out})/(qd)$. We show that, when $q$ is large, and $λ= O(1/q)$, the critical value of $d$ at which community detection becomes possible---in physical terms, the condensation threshold---is \[ d_ ext{c} = Θ\!\left( \frac{\log q}{q λ^2} ight) \, , \] with tighter results in certain regimes. Above this threshold, we show that any partition of the nodes into $q$ groups which is as `good' as the planted one, in terms of the number of within- and between-group edges, is correlated with it. This gives an exponential-time algorithm that performs better than chance; specifically, community detection becomes possible below the Kesten-Stigum bound for $q \ge 5$ in the disassortative case $λ< 0$, and for $q \ge 11$ in the assortative case $λ>0$ (similar upper bounds were obtained independently by Abbe and Sandon). Conversely, below this threshold, we show that no algorithm can label the vertices better than chance, or even distinguish the block model from an \ER\ random graph with high probability. Our lower bound on $d_ ext{c}$ uses Robinson and Wormald's small subgraph conditioning method, and we also give (less explicit) results for non-symmetric stochastic block models. In the symmetric case, we obtain explicit results by using bounds on certain functions of doubly stochastic matrices due to Achlioptas and Naor; indeed, our lower bound on $d_ ext{c}$ is their second moment lower bound on the $q$-colorability threshold for random graphs with a certain effective degree.

연구 동기 및 목표

• 희박한 스토하스틱 블록 모델에서 커뮤니티 탐지의 정보 이론적 한계를 결정하기 위해 $ q $ 개의 커뮤니티를 고려한다.
• 커뮤니티 탐지가 가능해지는 데 필요한 임계 평균 차수 $ d_c $ 를 규명하며, 이는 무작위 그래프 모델과의 차이를 명확히 한다.
• 임계값 $ d_c $ 를 초과할 경우, 심으신 커뮤니티 구조와 관련성이 있는 모든 분할을 회복할 수 있음을 증명한다; 이하일 경우 어떤 알고리즘도 무작위 추측을 초월해 성능을 내지 못한다.
• 특히 큰 $ q $ 에 대해 순서화($ \lambda > 0 $) 및 비순서화($ \lambda < 0 $) 경우를 모두 분석한다.
• 작은 부분그래프 조건화 방법과 이중 확률 행렬에 대한 경계를 사용하여 $ d_c $ 에 대한 날카운 경계를 도출한다.

제안 방법

• $ q $ 개의 그룹을 가진 대칭 스토하스틱 블록 모델을 사용하며, 간선 확률은 $ c_{\text{in}}/n $ 과 $ c_{\text{out}}/n $ 이다. 커뮤니티 강도 파라미터로 $ \lambda = (c_{\text{in}} - c_{\text{out}})/(q d) $ 를 정의한다.
• 로빈슨 및 워멀드의 작은 부분그래프 조건화 방법을 적용하여 응축 임계값 $ d_c $ 의 하한을 도출하며, 이 하한 이하에서는 탐지 불가능함을 보여준다.
• 두 번째 모멘트 방법과 아클리오토아스 및 나오르가 제시한 이중 확률 행렬 함수에 대한 경계를 활용하여 $ d_c $ 에 대한 명시적인 하한을 도출하며, 이는 효과적인 차수를 가진 무작위 그래프의 $ q $-색칠 가능성 임계값과 연결된다.
• 조건부 레이블 분포와 균일한 사전 확률 간의 총 변동 거리를 분석하여, belief propagation 가 $ d_c $ 이하일 경우 진정한 레이블과 상관관계를 가지지 못함을 보여준다.
• 제닝스 부등식과 조건부 기대값 기법을 사용하여 추론된 레이블과 진짜 커뮤니티 레이블 간의 겹침을 경계한다.
• $ d \ll d_c $ 일 경우, 어떤 알고리즘의 출력과 진짜 커뮤니티 구조 간의 기대 겹침이 0으로 수렴함을 증명하여 탐지 불가능성을 입증한다.

실험 결과

연구 질문

• RQ1 $ q $ 개의 그룹을 가진 희박한 스토하스틱 블록 모델에서 커뮤니티 탐지의 정보 이론적 임계값 $ d_c $ 은 무엇인가?
• RQ2 특히 $ \lambda = O(1/q) $ 일 경우, 임계 임계값 $ d_c $ 는 $ q $ 와 $ \lambda $ 에 따라 어떻게 척도가 되는가?
• RQ3 어떤 $ q $ 와 $ \lambda $ 값에서 커뮤니티 탐지가 케스텐-스티그룸 한계 이하에서도 가능해지는가?
• RQ4 $ d_c $ 이하에서 심으신 커뮤니티 구조는 높은 확률로 에르되시-레니 랜덤 그래프와 구분될 수 있는가?
• RQ5 스토하스틱 블록 모델에서의 응축 임계값과 효과적인 차수를 가진 무작위 그래프의 $ q $-색칠 가능성 임계값 사이의 관계는 무엇인가?

주요 결과

• 커뮤니티 탐지의 임계 평균 차수는 $ d_c = \Theta\left(\frac{\log q}{q\lambda^2}\right) $ 이며, 특정 영역에서는 더 날카운 경계를 확보한다.
• $ d_c $ 초과 시, 내부 및 그룹 간 간선의 구조에서 심으신 구조와 일치하는 모든 분할은 진짜 레이블과 상관관계를 가지며, 이는 지수 시간 탐지 가능성을 보장한다.
• 비순서화 케이스($ \lambda < 0 $) 에서 $ q \geq 5 $ 이며, 순서화 케이스($ \lambda > 0 $) 에서 $ q \geq 11 $ 일 경우, 케스텐-스티그룸 한계 이하에서도 탐지가 가능해진다.
• $ d_c $ 이하일 경우, 어떤 알고리즘도 랜덤 추측을 초월해 정점에 레이블을 할당할 수 없으며, 높은 확률로 그래프를 에르되시-레니 랜덤 그래프와 구분할 수 없다.
• $ d_c $ 의 하한은 작은 부분그래프 조건화 방법을 통해 유도되었으며, 효과적인 차수를 가진 무작위 그래프의 $ q $-색칠 가능성에 대한 두 번째 모멘트 하한과 일치한다.
• 결과는 비대칭 스토하스틱 블록 모델로 확장되었지만, 이 경우 경계는 덜 명시적이다.