[논문 리뷰] A Mutually Exciting Latent Space Hawkes Process Model for Continuous-time Networks

Zhipeng Huang, Hadeel Soliman외 2명|arXiv (Cornell University)|2022. 05. 19.

Diffusion and Search Dynamics인용 수 4

한 줄 요약

이 논문은 자기 흥분과 상호 흥분을 포괄하는 단일 잠재 공간과 상호 흥분 허크스 과정을 결합한 연속시간 네트워크 생성 모델인 잠재 공간 허크스(Latent Space Hawkes, LSH) 모델을 제안한다. 이 모델은 기존 방법에 비해 예측 정확도가 뛰어나고 해석 가능성도 향상되어, 안정적이고 의미 있는 노드 임bedding을 갖는 동적 상호작용을 모델링하는 데 특히 효과적이다.

ABSTRACT

Networks and temporal point processes serve as fundamental building blocks for modeling complex dynamic relational data in various domains. We propose the latent space Hawkes (LSH) model, a novel generative model for continuous-time networks of relational events, using a latent space representation for nodes. We model relational events between nodes using mutually exciting Hawkes processes with baseline intensities dependent upon the distances between the nodes in the latent space and sender and receiver specific effects. We demonstrate that our proposed LSH model can replicate many features observed in real temporal networks including reciprocity and transitivity, while also achieving superior prediction accuracy and providing more interpretable fits than existing models.

연구 동기 및 목표

• 연속시간 관계 이벤트 네트워크를 위한 더 해석 가능하고 안정적인 생성 모델을 개발하기 위해.
• 이중 잠재 공간(Dual Latent Space, DLS) 모델과 같은 다중 잠재 공간 모델에서 발생하는 해석 가능성 상실과 안정성 문제를 해결하기 위해.
• 단일 잠재 공간 프레임워크 내에서 자기 흥분과 상호 흥분을 동시에 통합하여 동적 상호작용을 향상된 방식으로 모델링하기 위해.
• 잠재 공간 내 의미 있는 노드 임베딩을 통해 네트워크 구조의 탐색적 분석을 가능하게 하기 위해.
• 해석 가능성 유지와 함께 최신 기술 수준의 모델에 비해 경쟁 가능한 성능을 보여주기 위해.

제안 방법

• LSH 모델은 노드 간 거리가 상호작용 가능성과 관련된 단일 잠재 공간을 사용하며, 유클리드 거리가 기본 강도에 영향을 미친다.
• 관계 이벤트는 자기 흥분과 상호 흥분 항목을 포함한 이변량 상호 흥분 허크스 과정을 사용하여 모델링한다.
• 기본 강도는 잠재 공간 거리의 로지스틱 함수로 파arameter화되며, 추가로 발신자 및 수신자 고유의 영향을 포함한다.
• 감쇠 함수로 지수 커널의 합을 사용하여 모델의 매개변수 선택에 대한 강건성을 향상시킨다.
• 잠재 위치, 기본 매개변수, 흥분 매개변수에 대한 최대우도 추정을 수행한다.
• 잠재 공간 위치의 시각화를 통해 네트워크 구조에 대한 민감한 해석이 가능하도록 모델을 설계한다.

실험 결과

연구 질문

• RQ1 단일 잠재 공간 표현과 허크스 과정을 조합하여, 다중 잠재 공간 모델보다 더 해석 가능한 방식으로 상호 흥분, 전이성 등 복잡한 동적 네트워크 특성을 모델링할 수 있는가?
• RQ2 자기 흥분을 포함한 모델이 단지 상호 흥분에 의존하는 모델에 비해 예측 정확도와 모델 안정성에서 어떻게 향상되는가?
• RQ3 잠재 공간의 구조가 지리정치적 군집 등 의미 있는 네트워크 조직을 얼마나 잘 드러내는가?
• RQ4 최신 기술 수준의 모델에 비해 LSH 모델이 링크 예측 및 이벤트 생성 과제에서 경쟁 가능한 성능을 달성하는가?
• RQ5 기본 강도의 다양한 파arameterization(양의 기울기 vs. 음의 기울기)이 잠재 공간 임베딩의 해석 가능성에 어떻게 영향을 미치는가?

주요 결과

• LSH 모델은 DLS 모델에 비해 예측 정확도가 뛰어나고 더 안정적인 피팅을 보였으며, 특히 자기 흥분과 상호 흥분을 잘 포착했다.
• 군사적 분쟁 데이터셋에서 양의 기울기 모델은 이스라엘과黎巴嫩과 같이 활동이 빈번한 국가들을 잠재 공간의 중심부에 배치시켜 높은 상호작용 빈도를 반영했다.
• 음의 기울기 모델은 고활동 국가들을 외곽에 배치시켜, 모델의 파arameterization가 다양한 구조적 해석을 반영할 수 있음을 보여주었다.
• 추정된 자기 흥분 매개변수(양의 기울기 모델에서 α₁ = 0.77)는 상호 흥분 매개변수(α₂ = 0.13)보다 유의미하게 높아, 자기 흥분 효과가 더 강하다는 것을 시사했다.
• 실제 데이터셋(사회적 상호작용 네트워크 및 시장 상호작용 네트워크 포함)에서 모델은 전이성과 상호 흥분과 같은 핵심 네트워크 특성을 성공적으로 재현했다.
• 잠재 공간의 시각화 결과에서 지리적 군집이 드러났으며, 같은 대륙에 속한 국가는 일반적으로 임베딩 공간에서 서로 가까이 위치해 있었다.