[논문 리뷰] THAP: A Matlab Toolkit for Learning with Hawkes Processes

Hongteng Xu, Hongyuan Zha|arXiv (Cornell University)|2017. 08. 28.

Point processes and geometric inequalities참고 문헌 14인용 수 5

한 줄 요약

THAP는 허크스 프로세스 및 그 변종에 대한 최신 학습 알고리즘과 분석 도구를 구현한 오픈소스 MATLAB 툴킷입니다. 이는 모델, 추정 방법, 그리고 그랜저 인과성, 군집화, 시간에 따라 변화하는 역학과 같은 고급 분석을 체계적으로 비교할 수 있도록 지원합니다. 최대가능도(ML), 미분방정식 해법기, 최소제곱 추정을 사용하는 파라미터 기반 및 비파라미터 기반 모델을 지원하며, 실제 데이터 및 합성 시뮬레이션에 적용 가능합니다.

ABSTRACT

As a powerful tool of asynchronous event sequence analysis, point processes have been studied for a long time and achieved numerous successes in different fields. Among various point process models, Hawkes process and its variants attract many researchers in statistics and computer science these years because they capture the self- and mutually-triggering patterns between different events in complicated sequences explicitly and quantitatively and are broadly applicable to many practical problems. In this paper, we describe an open-source toolkit implementing many learning algorithms and analysis tools for Hawkes process model and its variants. Our toolkit systematically summarizes recent state-of-the-art algorithms as well as most classic algorithms of Hawkes processes, which is beneficial for both academical education and research. Source code can be downloaded from https://github.com/HongtengXu/Hawkes-Process-Toolkit.

연구 동기 및 목표

• 허크스 프로세스 및 그 변종에 대한 통합적이고 오픈소스의 MATLAB 툴킷을 제공함으로써 학습 및 분석을 가능하게 하기.
• 현대적이고 고전적인 허크스 프로세스 학습 알고리즘 간의 공정하고 종합적인 비교를 가능하게 하기.
• 그랜저 인과성, 군집화, 시간에 따라 변화하는 전염성 모델링과 같은 고급 분석 기능을 지원하기.
• 점과정 모델링을 위한 확장 가능하고 사용자 친화적인 플랫폼을 제공함으로써 학술 교육 및 연구 간 격차를 메우기.
• 사전에 구현된 알고리즘, 실제 데이터 세트, 시각화 도구를 제공함으로써 연구를 가속화하기.

제안 방법

• 사전 정의된(예: 지수함수, 가우시안) 또는 기저 표현을 사용한 영향 함수를 갖는 파라미터 기반 및 비파라미터 기반 허크스 프로세스 모델 구현.
• 다양한 학습 알고리즘 지원: 정규화를 적용한 최대가능도(ML), 미분방정식 해법기와 결합한 최대가능도, 이산화된 영향 함수에 대한 최소제곱 방법.
• 세 가지 시뮬레이션 방법 제공: 분기 군집, 오가타의 수정된 희박화, 지수 커널에 적합한 빠른 희박화.
• 희소, 그룹 희소, 저질서 정규화를 적용한 최대가능도를 통해 그랜저 인과성 분석을 가능하게 하여 전염성 행렬 추정.
• 두 가지 군집 방법 구현: 허크스 프로세스 혼합 모델 및 표식이 있는 점과정을 위한 거리 척도.
• 시간에 따라 변화하는 허크스 프로세스(TVHP) 모델링을 지원하여 전염성의 동적 변화를 포착 가능.

실험 결과

연구 질문

• RQ1 다양한 데이터 조건과 모델 가정 하에서 허크스 프로세스에 대한 학습 알고리즘이 어떤 것이 가장 우수한 성능을 보이는가?
• RQ2 정규화된 최대가능도를 사용할 때 다변량 허크스 프로세스에서 그랜저 인과성을 어떻게 안정적으로 추정할 수 있는가?
• RQ3 군집 방법은 다수의 허크스 프로세스가 생성한 이질적인 이벤트 시계열에서 잠재적 구조를 효과적으로 식별할 수 있는가?
• RQ4 합성 허크스 프로세스 생성을 위한 다양한 시뮬레이션 방법 간에 런타임과 정확도 측면에서 어떤 차이가 있는가?
• RQ5 이 툴킷은 이벤트 시계열의 시간에 따라 변화하는 역학 분석을 어느 정도까지 지원할 수 있는가?

주요 결과

• THAP는 정규화를 적용한 최대가능도, 최대가능도-미분방정식 해법기, 최소제곱과 같은 포괄적인 학습 알고리즘 세트를 지원하여 탄탄하고 다재다능한 매개변수 추정이 가능하다.
• 툴킷은 이벤트 시계열, 강도 함수, 학습된 영향 함수, 추정 오차를 시각화할 수 있도록 지원하여 모델의 해석 가능성을 향상시킨다.
• 로그우도, 추정 오차, 런타임 등의 지표를 사용하여 알고리즘 간 공정한 비교를 가능하게 하여 성능의 상호 보완성과 Trade-off를 명확히 한다.
• 희소, 그룹 희소, 저질서 정규화를 적용한 최대가능도를 통해 그랜저 인과성 그래프를 신뢰성 있게 학습하며, 자기 및 상호 유도 패턴을 포착할 수 있다.
• 혼합 모델 및 표식이 있는 점과정을 위한 거리 척도를 통해 군집 분석을 지원하여 복잡한 시계열에서 구조를 탐색할 수 있다.
• 툴킷은 시간에 따라 변화하는 허크스 프로세스(TVHP)를 성공적으로 구현하여 전염성 행렬의 시간적 동적 분석을 가능하게 한다.