[논문 리뷰] Hawkes Processes with Stochastic Excitations

Young Lee, Kar Wai Lim외 1명|arXiv (Cornell University)|2016. 09. 22.

Point processes and geometric inequalities참고 문헌 37인용 수 18

한 줄 요약

이 논문은 자기자극 강도가 확률적 미분 방정식(SDEs)에 의해 지배되는 확률적 과정으로 모델링되는 베이지안 프레임워크를 제안한다. 이는 동적이고 상관된 전염 효과를 가능하게 한다. 이 방법은 거래량에 비례하는 O(n) 하이브리드 MCMC 알고리즘을 사용하며, 게비스 및 메트로폴리스-하스팅스 단계를 조합한다. 또한 EM 알고리즘과 금융 파생상품의 변동성 모델링과의 연결고리를 제공한다.

ABSTRACT

We propose an extension to Hawkes processes by treating the levels of self-excitation as a stochastic differential equation. Our new point process allows better approximation in application domains where events and intensities accelerate each other with correlated levels of contagion. We generalize a recent algorithm for simulating draws from Hawkes processes whose levels of excitation are stochastic processes, and propose a hybrid Markov chain Monte Carlo approach for model fitting. Our sampling procedure scales linearly with the number of required events and does not require stationarity of the point process. A modular inference procedure consisting of a combination between Gibbs and Metropolis Hastings steps is put forward. We recover expectation maximization as a special case. Our general approach is illustrated for contagion following geometric Brownian motion and exponential Langevin dynamics.

연구 동기 및 목표

• 자기자극 점과정에서 자극 강도가 일정하지 않고 시간에 따라 확률적으로 변화하는 모델링을 위한 목표.
• 기존 하크스 과정이 고정된 자극 매개변수를 가정하는 한계를 해결하기 위해 랜덤하고 시간에 따라 변화하는 전염 수준을 도입하는 것.
• 기존 시뮬레이션 방법의 O(n²) 복잡도를 피하기 위해 이러한 모델에 대해 확장 가능하고 다룰 수 있는 추론 절차를 개발하는 것.
• 금융 전염, 범죄 유출, 게놈 이벤트 군집화와 같은 분야에서 관련성 있고 가속화되는 사건 역학을 모델링할 수 있도록 하는 것.
• 제안된 모델과 기존 프레임워크인 EM 알고리즘 및 금융에서의 변동성 모델링 간의 이론적 및 알고리즘적 연결고리를 설정하는 것.

제안 방법

• 자기자극 강도가 확률적 미분 방정식(SDE)를 따르는 완전한 베이지안 모델을 제안하여, 자극 수준이 랜덤 과정으로 변화하도록 한다.
• 잠재 강도 경로와 모델 매개변수에 대한 사후 추론을 위한 하이브리드 마르코프 체인 몬테카를로(MCMC) 알고리즘을 도입하며, 게비스 샘플링과 메트로폴리스-하스팅스 단계를 조합한다.
• 사건 수에 대해 선형적으로 확장되는(선형 복잡도 O(n)) 시뮬레이션 기법을 설계하여 오가타의 희석 알고리즘의 난이도를 초과하는 O(n²) 복잡도를 개선한다.
• 기대 강도에 대한 재생 방정식을 유도하여, E[λ_t]가 SDE 기반 자극 과정의 평균을 포함하는 콘볼루션 형태로 변화함을 보여준다.
• 기하 브라운 motion과 지수 랑주뱅 동역학 두 가지 SDE에 프레임워크를 적용하며, 비균일한 시간 간격에 맞게 추론 절차를 조정한다.
• 이전 연구(예: 시마 및 조르단, 2010)에서 유도된 잠재 변수 구조를 활용하여 모델을 완전한 베이지안 추론 파ip라인에 통합한다.

실험 결과

연구 질문

• RQ1 자기자극 점과정을 어떻게 확장하여 자극 강도가 시간에 따라 확률적으로 변화하도록 할 수 있는가?
• RQ2 자극 수준을 SDE로 모델링할 경우, 점과정 모델의 추론에서 확장성과 정확도에 어떤 영향을 미치는가?
• RQ3 자기자극 강도가 확률적인 하크스 과정의 사후 분포를 효율적으로 샘플링하기 위해 하이브리드 MCMC 알고리즘을 설계할 수 있는가?
• RQ4 제안된 모델은 고전적 하크스 과정에 대한 기대-최대화(EM) 알고리즘과 어떻게 관련이 있는가?
• RQ5 이 모델은 금융 위기나 범죄 유출과 같은 실제 현상에서 관련성 있고 가속화되는 역학을 어느 정도 잘 포착할 수 있는가?

주요 결과

• 제안된 모델은 SDE에 의해 지배되는 자극 수준을 확률적 과정으로 간주함으로써 고전적 하크스 과정을 일반화하여, 동적이고 상관된 전염 효과를 가능하게 한다.
• 하이브리드 MCMC 알고리즘은 시뮬레이션과 추론에서 O(n) 계산 복잡도를 달성하여 기존의 희석 방법의 O(n²) 복잡도보다 크게 향상된다.
• 자기자극 수준이 고정되어 있을 경우, 모델은 고전적 EM 알고리즘을 특수한 경우로 복원하며, 베이지안 추론과 EM 간의 이론적 연결고리를 확립한다.
• 기대 강도 E[λ_t]는 SDE 기반 자극 과정의 평균에 의존하는 재생형 방정식을 만족하며, 장기적 행동에 대한 분석적 통찰을 가능하게 한다.
• 프레임워크는 민첩하고 확장 가능하여 기하 브라운 운동과 지수 랑주뱅 동역학과 같은 다양한 SDE를 지원하며, 비균일한 시간 간격에 맞게 추론 절차를 조정할 수 있다.
• 모델은 관련성 있고 가속화되는 사건 군집의 역학을 성공적으로 포착하여 금융, 형사학, 게놈학 분야의 응용에 적합하다.