[논문 리뷰] A Dynamic Edge Exchangeable Model for Sparse Temporal Networks

Yin Cheng Ng, Ricardo Silva|arXiv (Cornell University)|2017. 10. 11.

Data Management and Algorithms참고 문헌 10인용 수 4

한 줄 요약

이 논문은 희박한 시간적 네트워크를 위한 동적 엣지 교환 가능 모델(ATTAS)을 제안하며, 압축된 잠재 공간을 통해 희박성, 시간에 따라 변화하는 커뮤니티 구조, 사회적 영향을 동시에 포괄한다. 모델은 실제 데이터에서 뛰어난 링크 예측 정확도와 해석 가능한 커뮤니티 탐지 성능을 달성하며, 파라미터 수와 계산 비용을 줄여 동적 블록모델 및 기준 방법들보다 뛰어난 성능을 보인다.

ABSTRACT

We propose a dynamic edge exchangeable network model that can capture sparse connections observed in real temporal networks, in contrast to existing models which are dense. The model achieved superior link prediction accuracy on multiple data sets when compared to a dynamic variant of the blockmodel, and is able to extract interpretable time-varying community structures from the data. In addition to sparsity, the model accounts for the effect of social influence on vertices' future behaviours. Compared to the dynamic blockmodels, our model has a smaller latent space. The compact latent space requires a smaller number of parameters to be estimated in variational inference and results in a computationally friendly inference algorithm.

연구 동기 및 목표

• 기존의 동적 네트워크 모델이 조밀한 연결성을 가정하고 실세계의 희박성을 반영하지 못하는 한계를 해결하기 위해.
• 계산 효율적으로 시간에 따라 변화하는 혼합 소속 성질을 가진 커뮤니티 구조를 모델링하기 위해.
• 시간에 따라 정점 행동에 영향을 주는 사회적 영향을 통합하여 향후 상호작용을 더 잘 예측하기 위해.
• 동적 블록모델보다 더 작은 잠재 공간을 가지도록 모델을 개발하여 파라미터 수를 줄이고 추론 효율성을 향상시키기 위해.
• 실세계 네트워크 역학을 반영하여 시간이 지남에 따라 정점 집합이 증가하는 것을 가능하게 하기 위해.

제안 방법

• 모델은 각 시점에서 엣지 교환 가능성을 사용하여 자연스럽게 희박한 네트워크 구조를 지원하며, 전통적인 교환 가능 모델에서 흔히 볼 수 있는 조밀한 연결성을 피한다.
• 잠재적 고전적 마르코프 체인을 사용해 시간에 따라 엣지 교환 가능 마진을 연결함으로써 사회적 영향과 정점 행동의 시간적 진화를 모델링한다.
• 포isson 정점 생성 과정을 통해 네트워크가 시간이 지남에 따라 성장할 수 있도록 하여 고정된 정점 집합이 필요 없도록 한다.
• 시간에 따라 변화하는 커뮤니티 할당을 가진 혼합 소속 스토케스틱 블록모델 프레임워크를 사용해 해석 가능한 변화하는 커뮤니티 구조를 추론한다.
• 확장 가능한 파라미터 추정을 위해 변분 추론을 사용하며, 압축된 잠재 공간을 활용해 계산 비용을 줄인다.
• 모델은 시간적 네트워크 스냅샷에 대해 엔드 투 엔드로 훈련되며, 정점 참여 패턴에 기반해 각 엣지에 대해 커뮤니티 유형을 추론한다.

실험 결과

연구 질문

• RQ1 동적 네트워크 모델은 시간적 네트워크에서 희박성, 커뮤니티 구조, 사회적 영향을 동시에 포착할 수 있는가?
• RQ2 엣지 교환 가능성은 기존 모델이 실패하는 희박한 시간적 네트워크를 어떻게 모델링할 수 있게 하는가?
• RQ3 사회적 영향을 통합할 경우, 무작위 보행 또는 정적 모델 대비 링크 예측 성능이 얼마나 향상되는가?
• RQ4 사전 애너테이션 없이도 실제 데이터에서 읽을 수 있는 시간에 따라 변화하는 커뮤니티 구조를 모델이 추론할 수 있는가?
• RQ5 제안된 모델의 압축된 잠재 공간은 동적 블록모델 대비 계산 효율성과 예측 정확도 측면에서 어떻게 비교되는가?

주요 결과

• ATTAS 모델은 ENRON, TRADING, COLLEGE 데이터셋에서 뛰어난 링크 예측 정확도를 달성하였으며, AUC 점수는 0.75에서 0.85 사이로, 동적 블록모델 및 기준 방법들보다 뚜렷이 뛰어난 성능을 보였다.
• ENRON 데이터셋에서 ATTAS는 RW 기준 방법보다 뚜렷한 격차를 보이며 승리하였으며, 정확한 예측을 위해 사회적 영향을 모델링하는 것이 중요함을 시사한다.
• 모델은 109대 미국 의회 투표 네트워크에서 실제 정당 소속과 일치하는 커뮤니티를 성공적으로 추론하였으며, 엣지 색상이 정당 일관성 있는 군집을 반영하였다.
• 커뮤니티 크기와 구성은 시간이 지남에 따라 변화하였으며, 상원의원 행동과 정치적 연합의 변화를 반영하였고, 부시 행정부 기간 동안 공화당의 지배가 두드러졌다.
• 모델은 높은 해석 가능성과 함께, 빈도 기반 기준 방법과 달리 예측 엣지가 추론된 커뮤니티 소속과 연결되어 있었다.
• 압축된 잠재 공간 덕분에 추정해야 할 파라미터 수가 줄어들어, 대규모 시간적 네트워크에 적합한 계산 효율적인 추론 알고리즘이 구현되었다.