[논문 리뷰] Modelling sparsity, heterogeneity, reciprocity and community structure in temporal interaction data

Xenia Miscouridou, François Caron외 1명|arXiv (Cornell University)|2018. 03. 16.

Complex Network Analysis Techniques참고 문헌 20인용 수 7

한 줄 요약

이 논문은 시간적 상호작용 데이터에서 희소성, 차수 이질성, 상호성, 공동체 구조를 동시에 모델링하기 위해 복합 완전 무작위 측도(CCRM)를 사용하는 새로운 하크스 과정 기반 모델을 제안한다. CCRM를 통해 상호 자극을 갖는 상호성과 잠재적 공동체 소속을 파wr-법 차수 분포와 통합함으로써, 네 개의 실세계 데이터셋에서 기존 방법들보다 우수한 링크 예측 성능을 보였다.

ABSTRACT

We propose a novel class of network models for temporal dyadic interaction data. Our goal is to capture a number of important features often observed in social interactions: sparsity, degree heterogeneity, community structure and reciprocity. We propose a family of models based on self-exciting Hawkes point processes in which events depend on the history of the process. The key component is the conditional intensity function of the Hawkes Process, which captures the fact that interactions may arise as a response to past interactions (reciprocity), or due to shared interests between individuals (community structure). In order to capture the sparsity and degree heterogeneity, the base (non time dependent) part of the intensity function builds on compound random measures following Todeschini et al. (2016). We conduct experiments on a variety of real-world temporal interaction data and show that the proposed model outperforms many competing approaches for link prediction, and leads to interpretable parameters.

연구 동기 및 목표

• 시간적 이원 상호작용 데이터에서 희소성, 차수 이질성, 상호성, 공동체 구조라는 다수의 구조적 특징을 동시에 포착하는 통계 모델을 개발하는 것.
• 기존 모델이 이러한 특징을 동시에 모델링하지 못하는 한계, 특히 희소하고 꼬리가 무거운 네트워크에서의 한계를 해결하는 것.
• 복합 무작위 측도를 사용하여 이전의 하크스 과정 모델을 확장하여 파워-법 차수 분포와 겹치는 공동체 구조를 다룰 수 있도록 하는 것.
• 실세계 시간 네트워크 데이터셋에서 링크 예측 성능을 향상시키면서도 해석 가능한 잠재 파rameter를 유지하는 것.
• 교환 가능한 무작위 측도와 간선-교환 가능한 모델의 장점을 융합한 통합 프레임워크를 제공하는 것.

제안 방법

• 상호 자극 작용을 통해 상호성을 포착하기 위해 상호작용 쌍 간의 상호작용이 양방향으로 향후 상호작용을 유도하는 상호 자극 작용을 갖는 하크스 과정을 사용한다.
• 각 쌍에 대한 기본 강도 함수는 복합 완전 무작위 측도(CCRM)를 사용하여 모델링되며, 감마 혼합 측도를 통해 희소성과 무거운 꼬리가 있는 차수 분포를 유도한다.
• 잠재적 공동체 구조는 강도 함수 내 공유된 특징을 통해 표현되며, 각 노드의 공동체 소속은 가중치 $ w_{ik} $를 통해 모델링된다.
• 시간에 의존하지 않는 CCRM 성분과 시간에 의존하는 하크스 자극 커널을 조합하여 정적 네트워크 구조와 동적 상호작용 패턴을 동시에 모델링한다.
• 추론은 이중 단계 MCMC 알고리즘을 통해 수행되며, 먼저 초모수와 공동체 구조를 추정하고, 그 다음 추정된 구조 조건 하에 하크스 과정 파rameter를 추정한다.
• 모델은 겹치는 공동체를 다룰 수 있도록 확장되었으며, 향후 확장에서 비대칭 기저 강도와 이차형식을 허용한다.

실험 결과

연구 질문

• RQ1 하나의 통계 모델이 시간적 상호작용 데이터에서 희소성, 차수 이질성, 상호성, 공동체 구조를 동시에 포착할 수 있는가?
• RQ2 복합 완전 무작위 측도(CCRM)를 통합함으로써 시간적 환경에서 희소하고 꼬리가 두꺼운 네트워크를 어떻게 개선할 수 있는가?
• RQ3 서로 자극 작용(상호성)을 포함함으로써 정적 모델 대비 링크 예측 성능이 얼마나 향상되는가?
• RQ4 차수 이질성이 명시적으로 모델링된 상황에서, 모델이 잠재적 공동체 구조를 얼마나 잘 복원할 수 있는가?
• RQ5 제안된 하크스-CCRM 프레임워크는 다양한 실세계 시간 네트워크 데이터셋에서 기존 모델보다 링크 예측 성능에서 뛰어나게 되는가?

주요 결과

• 제안된 하크스-CCRM 모델은 이메일, 칼리지, 수학, 우부투 네 개의 실세계 데이터셋에서 기존 모델들을 능가하는 링크 예측 성능을 보였다.
• 기준 모델(IRM 기반 및 CCRM 기반) 대비 낮은 평균 제곱근 오차(RMSE)를 기록하여 더 높은 예측 정확도를 입증하였다.
• 하크스 성분을 추가함으로써 IRM 기반 및 CCRM 기반 모델 양쪽 모두 성능 향상이 이루어졌으며, 이는 동적 상호성의 영향이 예측 능력을 향상시킨다는 것을 시사한다.
• 정렬된 인접행렬을 통해 공동체 구조를 성공적으로 복원하였으며, 노드는 가장 높은 공동체 소속에 따라 그룹화되고 사회성 파ram터에 따라 정렬되었다.
• 모든 데이터셋에서 사후 예측 차수 분포가 실측 차수 분포와 유사하게 나타나, 모델이 중간 꼬리가 두꺼운 차수 이질성을 잘 포착하고 있음을 확인하였다.
• 희소성 파ram터 $\sigma$의 95% 사후 신뢰구간은 $(-0.69, -0.50)$에서 $(0.51, 0.57)$까지 다양하게 나타났으며, 이는 데이터셋 간 네트워크 밀도의 다양성을 반영한다. 음수 값은 더 두꺼운 네트워크(이메일, 칼리지)를, 양수 값은 더 희소한 네트워크(수학, 우부투)를 의미한다.