[论文解读] Hawkes Processes with Stochastic Excitations

Young Lee, Kar Wai Lim+1 more|arXiv (Cornell University)|Sep 22, 2016

Point processes and geometric inequalities参考文献 37被引用 18

一句话总结

本文提出了一种新颖的贝叶斯框架用于霍克斯过程，其中自激发表强度被建模为由随机微分方程（SDEs）控制的随机过程，从而实现动态且相关的传染效应。该方法采用一种可扩展的 O(n) 混合 MCMC 算法，结合吉布斯采样与梅特罗波利斯-黑斯廷斯步骤，与 EM 算法存在联系，并应用于几何布朗运动和指数朗之万动力学。

ABSTRACT

We propose an extension to Hawkes processes by treating the levels of self-excitation as a stochastic differential equation. Our new point process allows better approximation in application domains where events and intensities accelerate each other with correlated levels of contagion. We generalize a recent algorithm for simulating draws from Hawkes processes whose levels of excitation are stochastic processes, and propose a hybrid Markov chain Monte Carlo approach for model fitting. Our sampling procedure scales linearly with the number of required events and does not require stationarity of the point process. A modular inference procedure consisting of a combination between Gibbs and Metropolis Hastings steps is put forward. We recover expectation maximization as a special case. Our general approach is illustrated for contagion following geometric Brownian motion and exponential Langevin dynamics.

研究动机与目标

• 建模自激发表过程，其中激发强度并非恒定，而是随时间随机演化。
• 通过引入随机且随时间变化的传染水平，解决经典霍克斯过程假设激发参数固定所带来的局限性。
• 为这类模型开发一种可扩展且可处理的推断程序，避免标准模拟方法中 O(n²) 的复杂度。
• 在金融传染、犯罪溢出和基因组事件聚类等应用中，实现对相关且加速事件动态的灵活建模。
• 建立所提模型与现有框架（如 EM 算法和金融波动率建模）之间的理论与算法联系。

提出的方法

• 提出一个完全贝叶斯模型，其中激发强度遵循随机微分方程（SDE），使自激发表强度作为随机过程演化。
• 引入一种混合马尔可夫链蒙特卡洛（MCMC）算法，结合吉布斯采样与梅特罗波利斯-黑斯廷斯步骤，用于对潜在强度路径和模型参数进行后验推断。
• 设计一种与事件数量呈线性关系（O(n)）的模拟方案，优于朴素实现奥加塔薄化算法的 O(n²) 复杂度。
• 推导出期望强度的更新方程，表明 E[λ_t] 按照与 SDE 驱动激发过程均值相关的卷积形式演化。
• 将该框架应用于两种 SDE：几何布朗运动和指数朗之万动力学，推断程序针对不等时间间隔进行了调整。
• 借鉴先前工作（如 Simma & Jordan, 2010）中的隐变量结构，将模型嵌入完全贝叶斯推断流程中。

实验结果

研究问题

• RQ1 如何将自激发表过程扩展，以允许激发强度随时间随机变化？
• RQ2 将激发水平建模为 SDE 对点过程模型中推断的可扩展性和准确性有何影响？
• RQ3 能否设计一种混合 MCMC 算法，以高效地从具有随机激发的霍克斯过程后验分布中抽样？
• RQ4 所提模型与经典霍克斯过程的期望最大化（EM）算法有何关系？
• RQ5 该模型在多大程度上能够捕捉现实世界现象（如金融危机或犯罪溢出）中的相关且加速的动力学？

主要发现

• 所提模型通过将激发水平视为由 SDE 控制的随机过程，推广了经典霍克斯过程，实现了动态且相关的传染效应。
• 混合 MCMC 算法在模拟和推断中实现了 O(n) 的计算复杂度，显著优于标准薄化方法的 O(n²) 复杂度。
• 当激发水平固定时，该模型可恢复经典 EM 算法，建立了贝叶斯推断与 EM 之间的理论联系。
• 期望强度 E[λ_t] 满足一种更新型方程，其依赖于 SDE 驱动激发过程的均值，从而为长期行为提供解析洞察。
• 该框架具有灵活性和可扩展性，支持多种 SDE（如几何布朗运动和指数朗之万动力学），且推断程序可适应不规则时间间隔。
• 该模型成功捕捉了事件聚集中的相关且加速的动力学，适用于金融、刑事学和基因组学等应用。