[논문 리뷰] Statistical clustering of temporal networks through a dynamic stochastic block model

Catherine Matias, Vincent Mièle|arXiv (Cornell University)|2015. 06. 24.

Complex Network Analysis Techniques참고 문헌 32인용 수 7

한 줄 요약

이 논문은 정적 연결 패턴을 위한 스토하스틱 블록 모델과 시간에 따라 변화하는 노드 그룹 소속의 독립적인 마르코프 체인을 조합하여 시간적 네트워크를 공동으로 모델링하는 동적 스토하스틱 블록 모델(DSBM)을 제안한다. 이 방법은 일관된 내부 그룹 연결 행동에 기반한 안정적이고 레이블 전환에 강인한 노드 클러스터링을 가능하게 하며, 변분 기대최대화 및 모델 선택 기반의 추론을 통해 실수 및 합성 접촉 네트워크(예: 고등학교 및 동물 상호작용 포함)에서 검증된다.

ABSTRACT

Statistical node clustering in discrete time dynamic networks is an emerging field that raises many challenges. Here, we explore statistical properties and frequentist inference in a model that combines a stochastic block model (SBM) for its static part with independent Markov chains for the evolution of the nodes groups through time. We model binary data as well as weighted dynamic random graphs (with discrete or continuous edges values). Our approach, motivated by the importance of controlling for label switching issues across the different time steps, focuses on detecting groups characterized by a stable within group connectivity behavior. We study identifiability of the model parameters, propose an inference procedure based on a variational expectation maximization algorithm as well as a model selection criterion to select for the number of groups. We carefully discuss our initialization strategy which plays an important role in the method and compare our procedure with existing ones on synthetic datasets. We also illustrate our approach on dynamic contact networks, one of encounters among high school students and two others on animal interactions. An implementation of the method is available as a R package called dynsbm.

연구 동기 및 목표

• 노드 그룹 할당의 해석 가능성에 장애가 되는 레이블 전환 문제를 시간 경과에 따라 동적 네트워크 클러스터링에서 해결하기 위해.
• 단지 공동체 구조가 아니라 시간에 걸쳐 안정적인 내부 그룹 연결 행동을 갖는 그룹을 탐지하는 통계 모델을 개발하기 위해.
• 시간에 따라 변화하는 그룹 소속과 시간에 따라 변화하는 연결 매개변수를 모두 갖는 동적 네트워크 모델에서 최빈주의 추론을 가능하게 하기 위해.
• 모델 선택 기준을 사용하여 동적 네트워크에서 그룹 수를 체계적으로 선택하는 방법을 제안하기 위해.
• 일반적인 문제들(비정규화 및 나쁜 초기화)을 피하는 강력하고 확장 가능한 추론 절차를 제공하기 위해.

제안 방법

• 노드 그룹 소속이 시간에 따라 독립적인 마르코프 체인으로 진화하는 동적 스토하스틱 블록 모델을 사용하여 시간적 네트워크를 모델링한다.
• 간선 분포가 그룹 쌍에 따라 달라지는 계층적 베이지안 구조를 사용하며, 이는 이진, 가중치가 있는, 또는 연속적인 간선를 포함한 일반적인 가족 F를 간선 가중치에 적용한다.
• 잠재된 그룹 소속의 후행 분포를 근사하기 위해 변분 기대최대화(VEM) 알고리즘을 사용하여 매개변수 추론을 수행한다.
• 최적의 그룹 수를 결정하기 위해 벌금 부과된 우도 기반의 모델 선택 기준을 통합한다.
• 수렴성 향상과 국소 최적해 회피를 위해 각 시간점에서 정적 SBM 피팅을 기반으로 한 신중한 초기화 전략을 구현한다.
• 비방향 그래프를 처리하기 위해 그룹 간 연결 매개변수에 대칭성 조건(βql = βlq, γql = γlq)을 도입한다.

실험 결과

연구 질문

• RQ1 노드 그룹 소속이 시간에 따라 매끄럽게 진화하면서도 안정적인 내부 그룹 연결 패턴을 유지하는 동적 스토하스틱 블록 모델을 구성할 수 있는가?
• RQ2 시간 경과에 따른 레이블 전환 문제를 사전 가정에 의존하지 않고 어떻게 통제할 수 있는가?
• RQ3 그룹 소속과 연결 매개변수가 모두 시간에 따라 변화할 경우 모델 매개변수의 식별성은 어떻게 되는가?
• RQ4 제안된 변분 추론 절차는 합성 동적 네트워크에서 진짜 그룹 구조를 얼마나 잘 복원하는가?
• RQ5 모델 선택 기준은 동적 네트워크 데이터에서 진짜 그룹 수를 정확히 식별하는 데 효과적인가?

주요 결과

• 제안된 동적 스토하스틱 블록 모델은 독립적인 마르코프 체인을 통한 그룹 소속 진동을 모델링함으로써 안정적인 클러스터링을 보장하며, 시간 경과에 따른 레이블 전환을 크게 감소시킨다.
• 간선 분포 가족 F에 대한 약한 정규성 조건 하에서 모델은 식별 가능하며, 이는 이전 모델에서 그룹 소속과 연결 매개변수가 모두 시간에 따라 변화함에 따라 발생하던 핵심 문제를 해결한다.
• 변분 기대최대화 알고리즘은 적절한 초기화 조건에서 합성 데이터셋에서 정확한 매개변수 추정과 그룹 복원을 달성하며, 성능이 향상된다.
• 벌금 부과된 우도 기반의 모델 선택 기준은 합성 실험에서 정확한 그룹 수를 효과적으로 식별하며, 단순한 대안들보다 뛰어난 성능을 보인다.
• 이 방법은 고등학교 학생 상호작용 및 동물 사회 네트워크를 포함한 실제 동적 접촉 네트워크에서 의미 있고 해석 가능한 그룹 구조를 성공적으로 탐지한다.
• R 패키지 'dynsbm'은 이 방법을 구현하고 공개되어 있어 동적 네트워크 데이터의 재현 가능한 분석을 가능하게 한다.