[논문 리뷰] Learning Network of Multivariate Hawkes Processes: A Time Series Approach

Jalal Etesami, Negar Kiyavash외 2명|arXiv (Cornell University)|2016. 03. 14.

Point processes and geometric inequalities참고 문헌 18인용 수 33

한 줄 요약

이 논문은 이차 통계량을 사용하여 흥분 행렬의 지지 집합을 추정하는 시간 시리즈 기반 방법을 제안한다. 이는 다변량 선형 하크스 과정에서 인과 네트워크 구조를 학습하는 데 사용되며, 독립 동일분포 표본이 필요로 하지 않거나 대칭성 가정이 없는 조건에서도 효율적인 인과 추론을 가능하게 한다. 결과는 합성 데이터 및 주식 시장, MemeTracker를 포함한 실세계 데이터셋에서 검증되었다.

ABSTRACT

Learning the influence structure of multiple time series data is of great interest to many disciplines. This paper studies the problem of recovering the causal structure in network of multivariate linear Hawkes processes. In such processes, the occurrence of an event in one process affects the probability of occurrence of new events in some other processes. Thus, a natural notion of causality exists between such processes captured by the support of the excitation matrix. We show that the resulting causal influence network is equivalent to the Directed Information graph (DIG) of the processes, which encodes the causal factorization of the joint distribution of the processes. Furthermore, we present an algorithm for learning the support of excitation matrix (or equivalently the DIG). The performance of the algorithm is evaluated on synthesized multivariate Hawkes networks as well as a stock market and MemeTracker real-world dataset.

연구 동기 및 목표

• 독립 동일분포 표본이 필요로 하지 않는 다변량 선형 하크스 과정 내 인과 영향 네트워크 학습 방법 개발
• 흥분 행렬의 지지 집합과 방향 정보 그래프(DIG) 사이의 공식적 동치성을 확립하여, 매트릭스 추정을 통한 인과 추론 가능화
• 기존의 대칭 하크스 과정에 국한되지 않는 방법 확장 — 강한 가정이 필요한 강도 동일성 및 라플라스 변환 구조 제약 없이 적용 가능
• 이차 통계량의 스펙트럼 성질을 활용한 분석적이고 강건하며 계산적으로 효율적인 흥분 행렬 추정 알고리즘 제공

제안 방법

• 정적 다변량 하크스 과정의 이차 통계량을 활용하여 흥분 행렬을 추정함으로써, 독립 동일분포 표본에 의존하지 않음
• 공분산 밀도의 라플라스 변환을 사용하고, 지수 감쇠 커널 하에 흥분 행렬에 대한 정확한 해석적 해를 유도함
• 스펙트럼 밀도의 극을 식별하여 특정 라플라스 주파수에서의 방정정계를 통해 감쇠 파rameter와 흥분 계수를 복구함
• 커널의 극에서의 공분산 함수 라플라스 변환에 기반한 방정정계를 풀어 흥분 행렬을 재구성함
• 합성 및 실세계 데이터셋에서 수치 해법기반 소프트웨어 및 기존 추정기와의 성능 비교를 통해 검증함

실험 결과

연구 질문

• RQ1 다변량 선형 하크스 과정에서 흥분 행렬의 지지 집합은 방향 정보 그래프(DIG)와 동치인가?
• RQ2 독립 동일분포 표본이 필요로 하지 않는 조건에서 이차 통계량을 사용해 흥분 행렬을 효율적으로 추정할 수 있는가?
• RQ3 제안된 방법은 강도 동일성 및 인수 가능 라플라스 변환 구조를 가정하는 대칭 하크스 과정을 초월하여 일반화 가능한가?
• RQ4 정확도 및 계산 비용 측면에서 분석적 방법은 수치 해법기와 비교해 어떻게 성능을 내는가?

주요 결과

• 흥분 행렬의 지지 집합은 수학적으로 방향 정보 그래프(DIG)와 동치이며, 고차원 밀도 추정을 피할 수 있는 유도 정보의 대체 수단을 제공함
• 기존 논문 [3]에서 제안한 수치적 방법보다 제안된 분석적 방법이 더 강건하고 계산 비용이 낮음
• 정확한 기초 연결성 구조를 가진 합성 다변량 하크스 과정에서 인과 네트워크 구조를 성공적으로 복원함
• 주식 시장 및 MemeTracker 데이터셋을 포함한 실세계 데이터에서 강력한 성능을 보이며, 정확하게 인과 영향 패턴을 추론함