[논문 리뷰] Fused Gromov-Wasserstein Alignment for Hawkes Processes

Dixin Luo, Hongteng Xu외 1명|arXiv (Cornell University)|2019. 10. 04.

Point processes and geometric inequalities참고 문헌 10인용 수 4

한 줄 요약

이 논문은 정규화된 우도 목표를 최소화하여 서로 다른 시간적 사건 시계열 간의 사건 유형을 동시에 학습하고 정렬하는 융합 Gromov-Wasserstein 정렬(FGWA) 방법을 제안한다. 이 방법은 최적의 운반 이론을 통해 기본 강도에 대한 Wasserstein 이질성과 전염성 행렬에 대한 Gromov-Wasserstein 이질성을 결합하여, 합성 및 실세계 데이터에서 뛰어난 정렬 정확도와 더불어 대응 학습의 높은 확실성을 달성한다.

ABSTRACT

We propose a novel fused Gromov-Wasserstein alignment method to jointly learn the Hawkes processes in different event spaces, and align their event types. Given two Hawkes processes, we use fused Gromov-Wasserstein discrepancy to measure their dissimilarity, which considers both the Wasserstein discrepancy based on their base intensities and the Gromov-Wasserstein discrepancy based on their infectivity matrices. Accordingly, the learned optimal transport reflects the correspondence between the event types of these two Hawkes processes. The Hawkes processes and their optimal transport are learned jointly via maximum likelihood estimation, with a fused Gromov-Wasserstein regularizer. Experimental results show that the proposed method works well on synthetic and real-world data.

연구 동기 및 목표

• 다른 사건 공간에 있는 서로 다른 Hawkes 과정 간의 사건 유형을 정렬하는 데 도전하는 문제를 해결하기 위해.
• 크로스-프로세스 사건 유형 대응을 반영하는 최적의 운반 지도와 함께 Hawkes 과정의 파라미터를 동시에 학습하기 위해.
• 기본 강도 및 전염성 행렬 이질성의 통합을 통해 정렬 정확도와 대응 확실성을 향상시키기 위해.
• 최적의 운반 이론을 활용한 확장 가능하고 미분 가능한 프레임워크를 개발하여 도메인 간 순차적 행동 정렬을 위해.

제안 방법

• 이 방법은 기본 강도 벡터와 전염성 행렬로 파arameter화된 Hawkes 과정으로서 사건 시계열을 모델링한다.
• 기본 강도에 대한 Wasserstein 거리와 전염성 행렬에 대한 Gromov-Wasserstein 거리를 통합한 융합 Gromov-Wasserstein 이질성을 도입한다.
• 최적의 운반 지도는 융합 Gromov-Wasserstein 정규화 요소를 포함한 최대 우도 추정을 통해 학습되어 서로 다른 도메인 간의 사건 유형을 정렬한다.
• 정규화 요소는 소스 및 타겟 과정 간의 병합된 이질성을 최소화함으로써 대응 학습을 장려한다.
• 스토하스틱 경사 하강법을 사용하여 Hawkes 과정의 파라미터와 운반 지도를 동시에 최적화한다.
• 이 방법은 Ogata의 희석 알고리즘을 사용하여 사건 시계열을 시뮬레이션하고, 정렬 정확도와 운반 행렬의 엔트로피를 통해 성능을 평가한다.

실험 결과

연구 질문

• RQ1 다른 사건 공간을 가진 Hawkes 과정 간의 사건 유형을 융합 Gromov-Wasserstein 이질성으로 효과적으로 정렬할 수 있는가?
• RQ2 기본 강도와 전염성 행렬 이질성의 조합이 정렬의 확실성과 정확도를 어떻게 향상시키는가?
• RQ3 제안된 FGWA 방법이 경험적 매칭, HP-WD, HP-GWD와 같은 기존 방법보다 사건 유형 정렬에서 뛰어나게 성능을 발휘하는가?
• RQ4 FGWA가 학습한 최적의 운반 행렬이 사건 유형 간의 일대일 대응과 확실성을 얼마나 잘 반영하는가?
• RQ5 비일대일 대응이 존재하는 실세계 데이터셋에서 FGWA 방법의 확장성과 견고성은 어느 정도인가?

주요 결과

• C=10인 합성 데이터에서 FGWA는 69%의 탑-1 정렬 정확도를 달성하여 HP-GWD(49%)와 HP-WD(43%)를 능가했다.
• C=50일 때 FGWA는 22%의 탑-1 정확도를 기록했으며, HP-GWD(18%)와 HP-WD(19%)를 크게 앞섰다.
• C=100인 합성 데이터에서 FGWA는 11%의 탑-1 정확도를 유지하며 HP-GWD(6%)와 HP-WD(6%)를 뛰어넘었다.
• MIMIC-III 데이터셋에서 FGWA는 탑-K(K=5) 정확도 46.4%를 기록했으며, HP-GWD(31.4%)와 HP-WD(33.2%)를 초월했다.
• MC3 데이터셋에서 FGWA는 탑-K(K=50) 정확도 25.3%를 달성해 HP-GWD(12.9%)와 HP-WD(17.7%)를 뛰어넘었다.
• FGWA에서 학습된 운반 행렬의 엔트로피는 다른 방법보다 일관되게 낮아 예측된 대응의 높은 확실성을 나타냈다.