[논문 리뷰] Completely random measures for modelling block-structured networks

Tue Herlau, Mikkel N. Schmidt외 1명|arXiv (Cornell University)|2015. 07. 10.

Complex Network Analysis Techniques참고 문헌 25인용 수 6

한 줄 요약

이 논문은 칼렌베르크의 교환성 개념에 기반한 완전히 무작위 측도(CRMs)를 사용하여 블록 구조를 유지하면서도 힘의 법칙 형태의 도수 분포를 가능하게 하는 새로운 블록 구조 네트워크 모델을 제안한다. 이 모델은 블록별로 별도의 강도 측도를 갖는 CRMs를 결합하여 효율적인 샘플링과 가능도 계산을 달성하며, 실제 네트워크에서 링크 예측 및 커뮤니티 탐지 성능이 기존 모델을 능가한다.

ABSTRACT

Many statistical methods for network data parameterize the edge-probability by attributing latent traits to the vertices such as block structure and assume exchangeability in the sense of the Aldous-Hoover representation theorem. Empirical studies of networks indicate that many real-world networks have a power-law distribution of the vertices which in turn implies the number of edges scale slower than quadratically in the number of vertices. These assumptions are fundamentally irreconcilable as the Aldous-Hoover theorem implies quadratic scaling of the number of edges. Recently Caron and Fox (2014) proposed the use of a different notion of exchangeability due to Kallenberg (2009) and obtained a network model which admits power-law behaviour while retaining desirable statistical properties, however this model does not capture latent vertex traits such as block-structure. In this work we re-introduce the use of block-structure for network models obeying Kallenberg's notion of exchangeability and thereby obtain a model which admits the inference of block-structure and edge inhomogeneity. We derive a simple expression for the likelihood and an efficient sampling method. The obtained model is not significantly more difficult to implement than existing approaches to block-modelling and performs well on real network datasets.

연구 동기 및 목표

• 기존 알도우스-후버 교환성 하에서는 상충되는 블록 구조 네트워크 모델링과 힘의 법칙 형태의 도수 분포를 동시에 구현하는 것.
• 카론과 포크(2014)의 CRM 기반 네트워크 모델을 확장하여 잠재적 블록 구조와 엣지의 이질성을 통합하는 것.
• 새로운 모델에 대해 다룰 수 있는 가능도와 효율적인 MCMC 샘플링 방법을 개발하는 것.
• 기존 모델과 비교하여 실제 네트워크에서 링크 예측 및 커뮤니티 탐지 성능을 향상시키는 것.

제안 방법

• 알도우스-후버 교환성의 제곱형 엣지 스케일링 문제를 피하기 위해, 완전히 무작위 측도(CRMs)를 활용한 칼렌베르크의 교환성 개념을 사용하여 엣지 확률을 모델링한다.
• 각 블록에 대해 별도의 CRM을 할당하며, 강도 측도는 $ \sum_{i\geq 1} w_{\ell i} \delta_{\theta_{\ell i}} $ 로 표현되며, 여기서 $ w_{\ell i} $ 는 사회성의 정도를 제어하고 $ \theta_{\ell i} $ 는 블록별 상호작용을 제어한다.
• 엣지 확률을 $ \xi_{\ell m} = \eta_{\ell m} \cdot \mathbb{E}[\text{블록 } \ell \text{ 와 } m \text{ 에서 나온 스틱의 교차 부분}] $ 으로 모델링하며, $ \eta_{\ell m} \geq 0 $ 는 상호작용 강도를 조절한다.
• 네트워크 서명의 조합 구조를 활용하여 닫힌 형태의 가능도 표현식을 유도하고, 다항 계수를 통해 순열 불변성에 대한 보정을 수행한다.
• 공액 사전과 조건부 사후분포를 활용하여 효율적으로 블록 할당, CRM 가중치, 상호작용 파라미터를 갱신하는 게브스 샘플러를 사용한다.
• 전체 질량 $ T = \sum_i w_i $ 의 분포를 수치적으로 근사하기 위해 조로타레프의 적분 표현식을 활용하여 모델의 주변 행동을 검증한다.

실험 결과

연구 질문

• RQ1 칼렌베르크의 교환성 개념에 기반한 네트워크 모델이 동시에 블록 구조와 힘의 법칙 형태의 도수 분포를 포괄할 수 있는가?
• RQ2 CRM 기반 네트워크 모델에 블록 구조를 통합할 수 있는가, 이때 CRM 프레임워크의 불변성 성질을 위반하지 않는가?
• RQ3 이러한 모델의 가능도 형태는 무엇이며, 효율적으로 계산할 수 있는가?
• RQ4 DCSBM 및 pIRM과 같은 기존 모델과 비교해 본다면, 제안된 모델의 링크 예측 및 커뮤니티 탐지 성능은 어떠한가?

주요 결과

• 제안된 CRM 기반 스토케스틱 블록 모델은 블록 구조와 힘의 법칙 형태의 도수 분포를 동시에 성공적으로 포착하여, 기존 교환성 모델에서 발생하는 근본적인 상충을 해결한다.
• 순열 불변성을 다항 계수를 포함한 조합 보정 인자로 고려한 닫힌 형태의 가능도 표현식을 달성한다.
• 실제 11개의 네트워크(예: NIPS, Caltech, 효모)에서의 경험적 검증 결과, 링크 예측 정확도 및 커뮤니티 탐지에서 DCSBM 및 pIRM을 능가하는 성능을 보였다.
• 시뮬레이션된 네트워크에서 추정된 전체 질량 $ T $ 의 밀도가 조로타레프의 적분 표현식을 통해 유도된 이론적 밀도와 매우 유사하게 일치하여 모델의 타당성을 확인하였다.
• 희박한 네트워크에서도 잘 작동하며, 사회적, 공동저자, 뇌 네트워크 등 다양한 네트워크 유형에 대해 강건성을 유지한다.
• 구현 복잡도가 표준 블록 모델과 유사하여 실세계 응용에 실용적이고 접근하기 용이하다.