[논문 리뷰] The Computer Science and Physics of Community Detection: Landscapes, Phase Transitions, and Hardness

Cristopher Moore|arXiv (Cornell University)|2017. 02. 01.

Complex Network Analysis Techniques참고 문헌 15인용 수 59

한 줄 요약

확률적 블록 모델과 커뮤니티 탐지의 위상전이를 연결하는 설문 및 분석으로, 정보이론적 및 계산적 임계치를 보여주고 belief propagation 및 관련 스펙트럴 방법을 도입합니다.

ABSTRACT

Community detection in graphs is the problem of finding groups of vertices which are more densely connected than they are to the rest of the graph. This problem has a long history, but it is undergoing a resurgence of interest due to the need to analyze social and biological networks. While there are many ways to formalize it, one of the most popular is as an inference problem, where there is a "ground truth" community structure built into the graph somehow. The task is then to recover the ground truth knowing only the graph. Recently it was discovered, first heuristically in physics and then rigorously in probability and computer science, that this problem has a phase transition at which it suddenly becomes impossible. Namely, if the graph is too sparse, or the probabilistic process that generates it is too noisy, then no algorithm can find a partition that is correlated with the planted one---or even tell if there are communities, i.e., distinguish the graph from a purely random one with high probability. Above this information-theoretic threshold, there is a second threshold beyond which polynomial-time algorithms are known to succeed; in between, there is a regime in which community detection is possible, but conjectured to require exponential time. For computer scientists, this field offers a wealth of new ideas and open questions, with connections to probability and combinatorics, message-passing algorithms, and random matrix theory. Perhaps more importantly, it provides a window into the cultures of statistical physics and statistical inference, and how those cultures think about distributions of instances, landscapes of solutions, and hardness.

연구 동기 및 목표

• planted 커뮤니티 구조를 가진 확률적 모델을 제시하여 회복이 언제 가능한지 연구한다.
• 희소 그래프에서 탐지, 약한 재구성, 정확 재구성의 위상전이를 탐구한다.
• 사후 분포와 해밀토니안(Hamiltonians)을 통해 추론 문제를 통계 물리와 연계한다.
• belief propagation과 같은 알고리즘적 접근 방법과 이론적 한계를 논의한다.

제안 방법

• q개의 그룹과 내부/외부 그룹 확률 p_in과 p_out으로 확률적 블록 모델을 형식화한다.
• 사후 P(σ|G)를 볼로만 분포로 변환하고 이를 Ising/Potts 에너지 H(σ)와 연관시킨다.
• 일정 차수(rb) 체계에서 약한 재구성/정확 재구성을 정의하고 임계치를 식별한다.
• cavity 방법 및 belief propagation을 사용해 주변 분포를 계산하고 위상전이를평가한다.
• BP에 대한 선형 안정성(Kesten-Stigum) 임계치를 도출하고 비-백트랙킹 스펙트럴 방법과 연관시킨다.

실험 결과

연구 질문

• RQ1 희소 그래프에서 planted 커뮤니티 구조를 탐지하고 이를 Erdős–Rényi 그래프와 구분할 수 있는가?
• RQ2 stochastic block model에서 탐지, 약한 재구성, 정확 재구성의 정확한 임계치는 무엇인가?
• RQ3 정보이론적 임계치를 넘어서 탐지 가능한 재구성을 달성하는 데 belief propagation이 최적인가?
• RQ4 희소 그래프에서 사후 분포와 그 주변 분포가 위상전이를 어떻게 만들어내는가?
• RQ5 BP 고정점, 안정성 및 커뮤니티 탐지를 위한 스펙트럴 알고리즘 간의 관계는 무엇인가?

주요 결과

• 정보이론적 및 계산적 임계치가 존재하여 탐지 및 재구성에 대해 불가능한, 어렵지만 가능하며 실현 가능한 영역을 구분한다.
• 약한 재구성은 Kesten-Stigum 임계치를 넘어서 달성 가능하며, BP 기반 방법이 여러 경우에서 효과적임이 보인다.
• 사후 분포를 볼로 분포에 매핑할 수 있어 커뮤니티 탐지를 Ising/Potts 모델 및 위상전이와 연결한다.
• belief propagation은 희소성 하에서 라벨링의 기대 정확도를 극대화하는 주변 분포를 제공하며, 고정점의 안정성은 탐지 가능성을 예측한다.
• 비-백트랙킹 스펙트럴 방법은 탐지 임계치와 일치하며 그 위에서 효율적인 알고리즘을 제공한다.
• 희소하고 지역적으로 트리 형태인 그래프에서 BP는 점근적으로 정확하나, 실제 네트워크의 짧은 루프가 이를 다소 약화시킬 수 있다.