[论文解读] Hawkes Process Kernel Structure Parametric Search with Renormalization Factors

Rafael Lima, Jaesik Choi|arXiv (Cornell University)|May 24, 2018

Point processes and geometric inequalities参考文献 14被引用 3

一句话总结

本文引入重正化因子（RFs）以在霍克斯过程（Hawkes Processes）中稳定最大似然估计（MLE）方法，通过将自触发核参数约束于稳定、平稳的配置来实现。该方法在四种参数核函数——指数核（Exponential）、幂律核（Power-Law）、瑞利核（Rayleigh）和塔拉里斯Q-指数核（Tsallis Q-Exponential）——上均提升了对数似然性能，尤其在病态条件或短序列场景下表现更优，实证评估中RF-MLE始终优于标准MLE。

ABSTRACT

Hawkes Processes are a type of point process for modeling self-excitation, i.e., when the occurrence of an event makes future events more likely to occur. The corresponding self-triggering function of this type of process may be inferred through an Unconstrained Optimization-based method for maximization of its corresponding Loglikelihood function. Unfortunately, the non-convexity of this procedure, along with the ill-conditioning of the initialization of the self- triggering function parameters, may lead to a consequent instability of this method. Here, we introduce Renormalization Factors, over four types of parametric kernels, as a solution to this instability. These factors are derived for each of the self-triggering function parameters, and also for more than one parameter considered jointly. Experimental results show that the Maximum Likelihood Estimation method shows improved performance with Renormalization Factors over sets of sequences of several different lengths.

研究动机与目标

• 解决由于非凸性与病态初始化导致的霍克斯过程中无约束MLE的不稳定性。
• 推导闭式重正化因子，将自触发核参数约束于稳定、平稳的配置。
• 将稳定性机制扩展至联合参数空间与多个核族，包括指数核、幂律核、瑞利核与塔拉里斯Q-指数核。
• 在不同序列长度与核函数误配场景下验证该方法的有效性。
• 实现在接近不稳定参数区域的鲁棒参数估计，同时不牺牲模型拟合度。

提出的方法

• 提出重正化因子（RFs）作为正则化机制，以在霍克斯过程的自触发核参数中强制实现平稳性。
• 为每类单独参数及四类核族的联合参数集推导闭式RF表达式。
• 在MLE优化过程中应用RFs，将参数空间约束于稳定配置，防止事件率发散至无穷大。
• 采用基于扰动的策略，引入参数ε以控制重正化程度，实现对不稳定边界区域的探索。
• 使用带RF约束的标准MLE（即RF-MLE）与无约束MLE在合成序列上进行性能对比。
• 通过不同长度的合成序列（T=1000, 5000, 10000, 30000）与核函数误配场景验证该方法。

实验结果

研究问题

• RQ1 重正化因子能否在非凸优化与病态初始化条件下稳定霍克斯过程中的MLE？
• RQ2 重正化因子如何在不同参数核族中提升对数似然性能？
• RQ3 在短序列与核函数误配场景下，RF-MLE相较于标准MLE的性能提升程度如何？
• RQ4 联合参数重正化是否能超越单个参数约束，进一步提升稳定性和收敛性？
• RQ5 当参数接近不稳定配置时，该方法是否仍保持鲁棒性？

主要发现

• RF-MLE在所有测试序列长度（T=1000至T=30000）下均显著提升对数似然，且相对于标准MLE保持一致优势。
• 在T=1000时，ε=0.1的RF-MLE在所有核类型中90%的序列中提升了对数似然，部分情况下提升高达15%。
• 在T=30000时，RF-MLE在指数核（EXP）下的对数似然为-27509.08，而标准MLE为-27977.34，相对提升约1.7%。
• 即使在核函数误配场景下（如用指数核拟合幂律核生成的序列），在T=10000时RF-MLE在70%-80%的情况下仍表现更优。
• 瑞利核表现出最一致的性能提升，RF-MLE在所有序列类型与长度下均达到或优于标准MLE的对数似然。
• 该方法能有效稳定接近不稳定的参数区域中的MLE，防止事件率发散至无穷大，同时保持模型拟合度。