[论文解读] Generalization of Change-Point Detection in Time Series Data Based on Direct Density Ratio Estimation

M. Hushchyn, A. Ustyuzhanin|arXiv (Cornell University)|Jan 17, 2020

Statistical Methods and Inference参考文献 18被引用 27

一句话总结

本文提出了一种基于现代机器学习模型（包括梯度提升树和神经网络）的直接密度比估计方法，对时间序列中的变化点检测进行了泛化。通过用灵活的分类器和回归器替代传统的基于核的方法（如RuLSIF），该方法在合成数据集和真实世界数据集上均表现出色，尤其在高维或噪声较大的场景中，传统核方法表现不佳时，优势更为显著。

ABSTRACT

The goal of the change-point detection is to discover changes of time series distribution. One of the state of the art approaches of the change-point detection are based on direct density ratio estimation. In this work we show how existing algorithms can be generalized using various binary classification and regression models. In particular, we show that the Gradient Boosting over Decision Trees and Neural Networks can be used for this purpose. The algorithms are tested on several synthetic and real-world datasets. The results show that the proposed methods outperform classical RuLSIF algorithm. Discussion of cases where the proposed algorithms have advantages over existing methods are also provided.

研究动机与目标

• 通过利用现代机器学习模型，将最先进的变化点检测方法从基于核的方法（如RuLSIF）中拓展出来。
• 解决核方法在高维或噪声较大的时间序列中因基于距离的估计失效而带来的局限性。
• 通过使用二元分类器和回归模型直接估计密度比，提升检测的准确性和鲁棒性。
• 在合成和真实世界的时间序列数据集上评估这些泛化模型的性能。
• 为在直接密度比估计中使用灵活模型（如GBDT和神经网络）提供一个框架。

提出的方法

• 通过二元分类模型（如GBDT、神经网络）进行直接密度比估计，以估计测试分布与参考分布密度的比值。
• 在回归设置中应用RuLSIF损失函数，训练模型以估计密度比，而无需显式估计密度。
• 采用滑动窗口方法，从时间序列序列中构建参考样本和测试样本，以捕捉时间依赖性。
• 基于预测的密度比估计一个差异性评分，该评分在变化点位置达到峰值。
• 以ROC AUC为主要评估指标，时间窗口围绕真实变化点分配标签。
• 使用修改后的损失函数进行模型训练，以最小化预测密度比与真实密度比之间的加权平方误差。

实验结果

研究问题

• RQ1 像GBDT和神经网络这样的现代机器学习模型是否能在变化点检测中超越经典的基于核的方法（如RuLSIF）？
• RQ2 在哪些场景下，非核模型相较于基于核的密度比估计具有显著优势？
• RQ3 GBDT和神经网络如何处理会降低基于核方法性能的噪声或高维时间序列分量？
• RQ4 使用灵活模型进行直接密度比估计是否能提升检测准确性并减少识别变化点的延迟？
• RQ5 这些模型在具有不同变化点特征的合成和真实世界时间序列中的表现如何变化？

主要发现

• 在所有合成数据集中，基于GBDT和神经网络的模型均持续优于经典的RuLSIF算法，其中在数据集1上的AUC提升最高达9.7个百分点。
• 在Kepler系外行星光曲线数据集中，基于GBDT的模型AUC达到0.950，而RuLSIF为0.844，表明在真实天体物理信号中检测能力更优。
• 在IRIS地震图数据集中，GBDT模型AUC达到0.980，显著优于RuLSIF的0.971，表明在地球物理信号检测中具有更强的鲁棒性。
• 在噪声较大的合成数据集中，其性能持续优于RuLSIF，表明所提模型对时间序列中无信息噪声分量的敏感性更低。
• 在高维场景下，神经网络和GBDT模型表现出更好的泛化能力，而基于核的方法因维度灾难而失效。
• 使用灵活模型进行直接密度比估计，能够检测到核方法可能遗漏的复杂非线性分布变化。