[논문 리뷰] Oriented and Degree-generated Block Models: Generating and Inferring Communities with Inhomogeneous Degree Distributions

Yaojia Zhu, Xiaoran Yan외 1명|arXiv (Cornell University)|2012. 05. 31.

Complex Network Analysis Techniques참고 문헌 14인용 수 10

한 줄 요약

이 논문은 정점의 차수와 간선의 방향성을 공동 탐지에 통합하여, 중복 분포를 가진 네트워크에서 정확한 추론을 가능하게 하는 두 가지 새로운 블록 모델—방향성 보정된 차수(Degree-Corrected, ODC) 및 차수 생성 모델(Degree-Generated, DG)—을 제안한다. ODC 모델은 총 차수와 간선 방향을 사용하여 분류 성능을 향상시키며, DG 모델은 공동 전용 사전 분포(예: 멱법칙)에서 차수를 생성하여, 합성 및 실세계 네트워크(예: 단어 인접 그래프)에서 표준 모델이나 차수 보정 모델보다 높은 정확도를 달성한다.

ABSTRACT

The stochastic block model is a powerful tool for inferring community structure from network topology. However, it predicts a Poisson degree distribution within each community, while most real-world networks have a heavy-tailed degree distribution. The degree-corrected block model can accommodate arbitrary degree distributions within communities. But since it takes the vertex degrees as parameters rather than generating them, it cannot use them to help it classify the vertices, and its natural generalization to directed graphs cannot even use the orientations of the edges. In this paper, we present variants of the block model with the best of both worlds: they can use vertex degrees and edge orientations in the classification process, while tolerating heavy-tailed degree distributions within communities. We show that for some networks, including synthetic networks and networks of word adjacencies in English text, these new block models achieve a higher accuracy than either standard or degree-corrected block models.

연구 동기 및 목표

• 공동 내에서 중복 분포를 다루는 데에 한계가 있는 표준 스토케스틱 블록 모델(SBM)의 문제를 해결하기 위해.
• 차수를 고정된 매개변수로 다루는 차수 보정(DC) 모델의 단점을 극복하기 위해, 이는 차수를 공동 분류에 활용할 수 없음을 의미한다.
• 차수 보정된 모델과 달리 간선의 방향성을 활용하여 공동 탐지 성능을 향상시킬 수 있는 방향성 네트워크 확장 모델을 개발하기 위해.
• 정점의 차수를 공동 전용 분포에서 임의의 변수로 모델링하는 생성 프레임워크를 제안하여, 사전에 차수를 고정하지 않고도 차수 기반의 추론을 가능하게 하기 위해.
• 차수 생성을 통합함으로써 MCMC 추론의 수렴 속도와 정확도를 향상시키고, KL 방법과 같은 계산 비용이 큰 사전 처리 히우리스틱에 의존도를 줄이기 위해.

제안 방법

• 방향성 보정된 차수(ODC) 모델은 총 정점의 차수를 보정하면서 간선의 방향성을 모델링하여, 들어오는 차수와 나가는 차수 간의 상관관계가 있는 공동 탐지가 가능하다.
• 차수 생성(DG) 모델은 각 정점의 기대 차수를 그 공동에 특화된 사전 분포(예: 멱법칙)에서 임의의 변수로 간주하며, 이 모수는 추정되거나 고정된다.
• 두 모델 모두 관측된 차수의 가능도를 공동 전용 차수 사전 분포 하에서 포함하여 공동 할당과 차수 분포의 동시 추론이 가능하다.
• ODC 모델은 총 차수와 간선 방향성에 의존하는 가능도 함수를 사용하여, 정점 간의 방향성 불균형에 민감하다.
• DG 모델은 계층 베이지안 접근법을 사용하며, 차수 분포 모수(예: 지수 및 절단값)는 사전에 지정되거나 추정되며, 모델은 불가능한 차수 구성에 대해 페널티를 가한다.
• MCMC 추론을 통해 공동 할당을 샘플링하며, 합성 및 실세계 네트워크에서 정규화 상호정보량(NMI)을 사용해 성능을 평가한다.

실험 결과

연구 질문

• RQ1 차수 보정만으로는 달성할 수 없는 수준까지, 간선의 방향성을 방향성 블록 모델에 효과적으로 활용하여 공동 탐지 성능을 향상시킬 수 있는가?
• RQ2 정점의 차수를 공동 전용 분포에서 생성된 것으로 모델링함으로써, 이질적인 차수 분포를 가진 네트워크에서 공동 탐지 정확도를 향상시킬 수 있는가?
• RQ3 블록 모델에 차수 생성을 통합함으로써 MCMC 수렴 속도를 높이고, KL 방법과 같은 계산 비용이 큰 사전 처리 히우리스틱에 대한 의존도를 줄일 수 있는가?
• RQ4 ODC 및 DG 모델은 중복 분포를 가진 네트워크에서 표준 SBM, DC, DDC 모델과 비교해 어떻게 공동 탐지 성능을 발휘하는가?
• RQ5 특히 비대칭적이거나 이질적인 차수 구조를 가진 네트워크에서는 ODC 및 DG 모델이 기존 방법에 비해 어떤 유형의 네트워크에서 뚜렷한 이점을 제공하는가?

주요 결과

• ODC 모델은 합성 네트워크와 단어 인접 네트워크에서 모두 SBM 및 DC보다 높은 NMI를 기록하여, 공동 탐지에서 간선의 방향성을 활용하는 가치를 입증했다.
• DG 모델은 생성되지 않은 모델보다 성능 향상을 크게 이룩했다: Brown(S)에서 DG-ODC는 NMI = 0.320(ODC 단독 대비 0.312), Brown(M)에선 0.310(0.302 대비)를 기록했다.
• 차수 생성 덕분에 ODC는 KL 히우리스틱을 사용할 때와 거의 유사한 속도로 수렴했으며, 높은 비용이 드는 사전 처리가 필요로 하는 상황을 줄였다.
• 상호 공동 간 연결 밀도가 낮은 합성 네트워크(λ = 0.05)에서도 DG 모델은 연결이 거의 균일한 상황에서도 높은 정확도를 달성하여, 약한 공동 신호에 대한 강건성을 보였다.
• 커뮤니티가 서로 다른 차수 분포를 가진 네트워크에서 DG 모델은 DC 및 DDC를 능가했으며, 차수 정보를 적절히 모델링할 경우 분류에 효과적으로 활용될 수 있음을 입증했다.
• ODC 모델은 DDC가 방향성 정보를 활용할 수 없어 실패한 바, 영어 텍스트에서 형용사가 명사를 앞서는 등의 방향성 패턴을 성공적으로 포착했다.