[论文解读] A Nonparametric Approach for Multiple Change Point Analysis of Multivariate Data

David S. Matteson, Nicholas A. James|arXiv (Cornell University)|Jun 20, 2013

Statistical Methods and Inference参考文献 35被引用 8

一句话总结

本文提出了一种非参数、一致的方法，用于在不假设已知分布形式的前提下，检测多元时间序列中的多个变化点。该方法使用U统计量和层次聚类——包括分裂式与聚合式算法——来估计变化点的数量和位置，在仅需最小矩假设（α ∈ (0,2) 的 α 阶绝对矩）的条件下实现一致性。

ABSTRACT

Change point analysis has applications in a wide variety of fields. The general problem concerns the inference of a change in distribution for a set of time-ordered observations. Sequential detection is an online version in which new data is continually arriving and is analyzed adaptively. We are concerned with the related, but distinct, offline version, in which retrospective analysis of an entire sequence is performed. For a set of multivariate observations of arbitrary dimension, we consider nonparametric estimation of both the number of change points and the positions at which they occur. We do not make any assumptions regarding the nature of the change in distribution or any distribution assumptions beyond the existence of the alpha-th absolute moment, for some alpha in (0,2). Estimation is based on hierarchical clustering and we propose both divisive and agglomerative algorithms. The divisive method is shown to provide consistent estimates of both the number and location of change points under standard regularity assumptions. We compare the proposed approach with competing methods in a simulation study. Methods from cluster analysis are applied to assess performance and to allow simple comparisons of location estimates, even when the estimated number differs. We conclude with applications in genetics, finance and spatio-temporal analysis.

研究动机与目标

• 解决在未知或任意分布变化下，多元数据中多重变化点检测缺乏鲁棒、非参数方法的问题。
• 克服现有参数与非参数方法的局限性，这些方法通常需要事先知道变化点数量或假设特定分布族。
• 开发一种可同时估计变化点数量与位置的方法，无需额外分析或对变化点数量进行调参。
• 在弱正则性条件下（具体为存在某个 α ∈ (0,2) 的 α 阶绝对矩）确保变化点估计的理论一致性。

提出的方法

• 提出一种基于观测值两两之间欧氏距离的U统计量的非参数方法，用于检测分布变化。
• 采用分裂式算法，通过置换检验递归地对数据进行分割，以评估潜在变化点的显著性。
• 使用聚合式算法，通过最大化基于组间-组内聚类距离的拟合优度统计量，识别最优聚类结构。
• 应用层次聚类技术来估计变化点，其中分裂式方法依赖于统计检验，而聚合式方法则基于拟合优度准则的优化。
• 分裂式方法在标准正则性条件下，可保证对变化点数量与位置估计的一致性。
• 计算复杂度为 O(kT²)，其中 k 为变化点数量，T 为样本大小，与现有方法相当。

实验结果

研究问题

• RQ1 是否能够提出一种非参数方法，在不假设特定参数族的前提下，一致地估计多元数据中多个变化点的数量与位置？
• RQ2 当仅假设存在 α 阶绝对矩（α ∈ (0,2)）时，所提方法在检测任意分布变化方面表现如何？
• RQ3 在准确度、一致性与计算效率方面，分裂式与聚合式算法的相对性能如何？
• RQ4 该方法能否检测到空间与时间模式中的细微或快速变化？如在真实世界时空数据（如多伦多EMS事件）中所示？

主要发现

• 分裂式算法在标准正则性条件下，可一致估计变化点的数量与位置。
• 该方法在多伦多EMS数据中成功检测出31个变化点，主要集中在晚间，表明紧急事件空间分布出现快速转变。
• 聚合式算法在多伦多EMS数据集中实现了31个变化点的拟合优度度量，空间密度估计显示市中心活动持续存在，而外围区域则呈现动态变化。
• 在模拟实验中，该方法优于竞争方法，尤其在不假设已知参数形式或事先知道变化点数量的情况下检测变化方面表现更优。
• 该方法在多种应用场景中表现出鲁棒性，包括基因组学、金融学及时空分析，展现出广泛适用性。
• 使用U统计量与基于聚类的距离度量避免了多元密度估计的复杂性，提升了实用性与计算效率。