[论文解读] Optimal nonparametric change point detection and localization

Oscar Hernán Madrid Padilla, Yi Yu+2 more|arXiv (Cornell University)|May 24, 2019

Statistical Methods and Inference参考文献 40被引用 21

一句话总结

本文提出了一种完全非参数化的变化点检测与定位方法，利用科尔莫戈罗夫-斯米尔诺夫统计量在完全非参数设定下检测和定位变化点，将二元分割和野生二元分割方法推广至独立同分布样本的单变量时间序列。该方法建立了近乎极小极大最优的一致性速率，并识别出决定一致定位统计可行性的模型参数相变现象。

ABSTRACT

We study change point detection and localization for univariate data in fully nonparametric settings in which, at each time point, we acquire an i.i.d. sample from an unknown distribution. We quantify the magnitude of the distributional changes at the change points using the Kolmogorov--Smirnov distance. We allow all the relevant parameters -- the minimal spacing between two consecutive change points, the minimal magnitude of the changes in the Kolmogorov--Smirnov distance, and the number of sample points collected at each time point -- to change with the length of time series. We generalize the renowned binary segmentation (e.g. Scott and Knott, 1974) algorithm and its variant, the wild binary segmentation of Fryzlewicz (2014), both originally designed for univariate mean change point detection problems, to our nonparametric settings and exhibit rates of consistency for both of them. In particular, we prove that the procedure based on wild binary segmentation is nearly minimax rate-optimal. We further demonstrate a phase transition in the space of model parameters that separates parameter combinations for which consistent localization is possible from the ones for which this task is statistical unfeasible. Finally, we provide extensive numerical experiments to support our theory. R code is available at https://github.com/hernanmp/NWBS.

研究动机与目标

• 开发一种完全非参数化的变化点检测与定位方法，不依赖于参数分布假设。
• 通过使用科尔莫戈罗夫-斯米尔诺夫距离作为分布变化的度量，将二元分割和野生二元分割方法推广至非参数设定。
• 在不同样本大小和变化点配置下，建立变化点检测的理论一致性和最优性速率。
• 识别出决定一致定位在统计上是否可行的参数空间相变现象。
• 提供计算高效的算法，具备可证明的理论保证，并通过广泛的数值实验加以支持。

提出的方法

• 使用科尔莫戈罗夫-斯米尔诺夫（KS）距离量化变化点处的分布变化，实现累积分布函数的非参数比较。
• 通过在检测和定位分布偏移时应用KS统计量，将二元分割和野生二元分割算法适配至非参数设定。
• 采用带数据依赖阈值 λ = C log(n₁:T) 的惩罚CUSUM型统计量，以控制假阳性并确保一致性。
• 引入基于事件 𝒜 的条件分析框架，该事件在样本大小和变化点间距满足弱正则性条件时以高概率成立。
• 在候选变化点上采用多尺度检验策略，利用KS统计量比较各区间上的经验分布。
• 在野生二元分割中应用嵌套选择机制，确保在适当的信噪比条件下以高概率恢复真实变化点。

实验结果

研究问题

• RQ1 能否通过科尔莫戈罗夫-斯米尔诺夫统计量将二元分割和野生二元分割推广至非参数变化点检测？
• RQ2 在不同样本大小和分布变化下，非参数变化点检测的一致性和最优性速率为何？
• RQ3 是否存在一个参数空间中的相变现象，用以区分一致定位在统计上是否可行？
• RQ4 与现有非参数方法（如Zou等，2014）相比，该方法在理论保证和有限样本性能方面表现如何？
• RQ5 该方法在一般非参数条件下能否实现近乎极小极大最优的定位速率？

主要发现

• 基于野生二元分割的程序在科尔莫戈罗夫-斯米尔诺夫距离下实现了近乎极小极大最优的一致性定位速率。
• 仅当信号强度 κ 满足 κ ≥ cτ,2κδ¹ᐟ²nₘᵢₙ³ᐟ²/nₘₐₓ 时，一致定位才可能实现；否则该任务在统计上不可行。
• 该方法以高概率实现定位误差有界于 Cεκ⁻²ₖ log(n₁:T)n₉ₘₐₓn⁻¹⁰ₘᵢₙ，其依赖于最小样本量和信号强度。
• 在参数空间中存在相变现象：仅当最小间距 δ 和信号大小 κ 满足涉及 nₘᵢₙ 和 nₘₐₓ 的阈值条件时，一致定位才可行。
• 理论保证在一般条件下成立，即每时间点的样本数、最小间距和变化幅度随时间序列长度 T 的增长而同步变化。
• 数值实验验证了理论发现，表明该方法在多样化模拟场景中表现出强劲的实证性能。