[论文解读] Bayesian Model for Multiple Change-points Detection in Multivariate Time Series

Flore Harlé, Florent Chatelain+2 more|arXiv (Cornell University)|Jul 11, 2014

Statistical Methods and Inference参考文献 63被引用 23

一句话总结

本文提出了一种贝叶斯模型，用于在多变量时间序列中检测多个变化点，采用基于秩次的p值进行鲁棒的非参数Wilcoxon秩和检验，并结合Gibbs抽样进行后验推断。该方法在存在异常值的非高斯数据上优于融合lasso和伯努利-高斯模型，同时在不假设变化点同步发生或高斯分布的前提下，学习时间序列之间的共享变化点概率。

ABSTRACT

This paper addresses the issue of detecting change-points in multivariate time series. The proposed approach differs from existing counterparts by making only weak assumptions on both the change-points structure across series, and the statistical signal distributions. Specifically change-points are not assumed to occur at simultaneous time instants across series, and no specific distribution is assumed on the individual signals. It relies on the combination of a local robust statistical test acting on individual time segments, with a global Bayesian framework able to optimize configurations from multiple local statistics (from segments of a unique time series or multiple time series). Using an extensive experimental set-up, our algorithm is shown to perform well on Gaussian data, with the same results in term of recall and precision as classical approaches, such as the fused lasso and the Bernoulli Gaussian model. Furthermore, it outperforms the reference models in the case of non normal data with outliers. The control of the False Discovery Rate by an acceptance level is confirmed. In the case of multivariate data, the probabilities that simultaneous change-points are shared by some specific time series are learned. We finally illustrate our algorithm with real datasets from energy monitoring and genomic. Segmentations are compared to state-of-the-art approaches based on fused lasso and group fused lasso.

研究动机与目标

• 解决在最小分布假设下检测多变量时间序列中多个变化点的挑战。
• 开发一种方法，无需假设所有时间序列中变化点同时发生，也无需对信号的特定参数分布提出要求。
• 通过估计共享变化点的概率，学习时间序列之间的潜在依赖结构。
• 通过接受水平α控制错误发现率（FDR），尤其在复杂的多变量场景中。
• 在存在异常值和非正态数据的情况下，为经典方法（如融合lasso和伯努利-高斯模型）提供一种鲁棒的替代方案。

提出的方法

• 使用Wilcoxon秩和检验在局部时间片段上计算p值，实现非参数化、对异常值不敏感的变化点检测。
• 在备择假设下，利用贝塔分布将p值转换为复合边际似然，对局部检验统计量的不确定性进行建模。
• 采用贝叶斯框架，使用伯努利指标表示变化点，实现对多条时间序列中变化点存在性的概率建模。
• 使用Gibbs抽样估计变化点的后验最大后验（MAP）配置，实现在多条序列上的联合推断。
• 在共享变化点概率上引入先验分布，使模型能够学习哪些时间序列更可能共享事件。
• 使用接受水平α控制错误发现率，其在单变量情况下已形式化，并在多变量场景中通过实证验证。

实验结果

研究问题

• RQ1 能否将非参数化、鲁棒的统计检验与贝叶斯推断有效结合，以检测多变量时间序列中的多个变化点？
• RQ2 在不假设完全连通性或独立性的情况下，如何学习时间序列之间的依赖结构——特别是共享变化点的概率？
• RQ3 在非高斯、含异常值的数据中，所提出的方法在多大程度上优于经典方法（如融合lasso和伯努利-高斯模型）？
• RQ4 在多变量贝叶斯变化点检测框架中，用户定义的接受水平α能否有效控制错误发现率？
• RQ5 该模型在具有复杂、异质变化点结构的真实世界多变量数据集上的表现如何？

主要发现

• 在高斯数据上，该方法的召回率和精确率与融合lasso和伯努利-高斯模型相当，证实了在理想条件下的鲁棒性。
• 在含异常值的非高斯数据上，所提模型显著优于融合lasso和伯努利-高斯模型，后者会检测到虚假变化点。
• 通过接受水平α有效控制了错误发现率，且在单变量情况下已建立形式化理论基础。
• 该模型成功学习了时间序列之间共享变化点的概率，揭示了标准方法无法捕捉的复杂依赖结构。
• 在真实世界应用中，该模型在能源监控和aCGH基因组数据中检测到有意义的变化点，其结果在生物学和物理背景下具有可解释性。
• 在依赖结构上使用信息性先验可加速计算并提高分割精度，尽管对于非常大的时间序列集合，可扩展性仍有限。