[论文解读] A point process model for rare event detection

Santhosh Narayanan, Carsten Maple+1 more|arXiv (Cornell University)|Sep 11, 2022

Point processes and geometric inequalities被引用 6

一句话总结

本文提出了一种用于罕见事件检测的霍克斯点过程模型，通过利用事件序列中的时间依赖性，优于传统的机器学习分类器（如逻辑回归）。通过使用依赖历史的强度函数对事件聚类和激发效应进行建模，该方法在预测性能方面表现更优，并为电子商务交易数据中的欺诈动态提供了可解释的洞察。

ABSTRACT

Detecting rare events, those defined to give rise to high impact but have a low probability of occurring, is a challenge in a number of domains including meteorological, environmental, financial and economic. The use of machine learning to detect such events is becoming increasingly popular, since they offer an effective and scalable solution when compared to traditional signature-based detection methods. In this work, we begin by undertaking exploratory data analysis, and present techniques that can be used in a framework for employing machine learning methods for rare event detection. Strategies to deal with the imbalance of classes including the selection of performance metrics are also discussed. Despite their popularity, we believe the performance of conventional machine learning classifiers could be further improved, since they are agnostic to the natural order over time in which the events occur. Stochastic processes on the other hand, model sequences of events by exploiting their temporal structure such as clustering and dependence between the different types of events. We develop a model for classification based on Hawkes processes and apply it to a dataset of e-commerce transactions, resulting in not only better predictive performance but also deriving inferences regarding the temporal dynamics of the data.

研究动机与目标

• 为解决检测罕见但影响重大的事件（如金融欺诈、系统故障或网络入侵）的挑战。
• 开发一种框架，通过整合时间结构来提升机器学习在不平衡数据集上的性能。
• 证明点过程模型（如霍克斯过程）能够比传统分类器更好地捕捉时间聚类和依赖性。
• 通过模型参数估计，为罕见事件的动力学提供可解释的洞察。

提出的方法

• 作者采用带标记的霍克斯过程模型来表示事件发生的强度，其中强度取决于背景速率和过去事件引发的激发。
• 该模型使用依赖历史的强度函数，包含参数 α（激发强度）、β（衰减率）和 δm|z（背景标记概率），以捕捉时间依赖性。
• 触发概率矩阵 γr→c 衡量类型为 r 的事件触发类型为 c 的事件的可能性，从而实现跨类型激发的建模。
• 采用最大似然估计推断模型参数，并为统计稳健性提供 95% 置信区间。
• 通过曲线下面积（AUPRC）评估性能，该指标适用于不平衡数据集。
• 探索了将霍克斯过程与逻辑回归预测结果融合的模型，以利用两者的优势互补。

实验结果

研究问题

• RQ1 是否能够通过显式考虑时间依赖性的点过程模型，相比标准机器学习分类器，提升罕见事件检测性能？
• RQ2 霍克斯过程模型的参数在多大程度上反映了真实世界数据中罕见事件的潜在时间动力学？
• RQ3 对过去事件激发效应的建模在不平衡欺诈检测中能在多大程度上提升预测性能？
• RQ4 从估计的参数中可以得出关于欺诈交易聚类和持续性的哪些洞察？
• RQ5 将时间点过程模型与传统分类器结合，是否能获得优于单一模型的性能？

主要发现

• 霍克斯过程模型在测试集上实现了更优的预测性能，曲线下面积（AUPRC）高于逻辑回归。
• 激发因子 α 的 95% 置信区间为 (1.63, 8.41)，表明对过去事件存在强烈依赖，意味着欺诈事件高度受先前事件影响。
• 衰减率 β 的 95% 置信区间为 (0.21, 0.33)，表明激发效应至少持续 44 分钟后才显著衰减。
• 对于产品代码 4，欺诈的背景概率几乎为零，表明此类欺诈交易必须由先前事件触发。
• 触发概率矩阵显示，同类型事件极有可能触发同类型事件，其对角线元素（除产品代码 5 外）接近 1。
• 融合模型（结合霍克斯过程与逻辑回归预测）的表现优于任一单独模型，表明两者捕捉了数据中不同的模式。