[论文解读] Scan $B$-Statistic for Kernel Change-Point Detection

Shuang Li, Yao Xie+2 more|arXiv (Cornell University)|Jul 5, 2015

Statistical Methods and Inference被引用 7

一句话总结

本文提出扫描 $B$-统计量，用于在大规模背景数据场景下实现高效的基于核函数的变点检测，通过基于块的近似将计算成本从 $\mathcal{O}(n^2)$ 降低至 $\mathcal{O}(nB^2)$。提出一种新颖的测度变换技术，以准确近似尾部概率，实现误报控制，从而在无需昂贵模拟的情况下实现可靠的检测阈值，且在语音和人体活动数据集上的实验结果优于基线方法。

ABSTRACT

Detecting the emergence of an abrupt change-point is a classic problem in statistics and machine learning. Kernel-based nonparametric statistics have been used for this task which enjoy fewer assumptions on the distributions than the parametric approach and can handle high-dimensional data. In this paper we focus on the scenario when the amount of background data is large, and propose two related computationally efficient kernel-based statistics for change-point detection, which are inspired by the recently developed $B$-statistics. A novel theoretical result of the paper is the characterization of the tail probability of these statistics using the change-of-measure technique, which focuses on characterizing the tail of the detection statistics rather than obtaining its asymptotic distribution under the null distribution. Such approximations are crucial to control the false alarm rate, which corresponds to the significance level in offline change-point detection and the average-run-length in online change-point detection. Our approximations are shown to be highly accurate. Thus, they provide a convenient way to find detection thresholds for both offline and online cases without the need to resort to the more expensive simulations or bootstrapping. We show that our methods perform well on both synthetic data and real data.

研究动机与目标

• 解决在大规模背景数据场景下基于核函数的变点检测存在的计算效率低下问题。
• 开发一种计算高效的核统计量，在降低复杂度的同时保持较高的检测能力。
• 为在线和离线场景下的误报率提供准确的理论近似。
• 在不依赖昂贵模拟的前提下，实现可靠的检测阈值。
• 在高维且含噪声的信号中提升实际数据的检测准确性。

提出的方法

• 基于核函数最大均值差异（MMD）提出扫描 $B$-统计量，通过在多个互不重叠的参考块中重用变点后的样本。
• 采用基于块的采样策略，将计算成本从 $\mathcal{O}(n^2)$ 降低至 $\mathcal{O}(nB^2)$，其中 $B$ 为块大小。
• 引入闭式方差估计器，以实现扫描 $B$-统计量的高效计算。
• 应用测度变换技术，对检测统计量的尾部概率进行解析近似，这对误报控制至关重要。
• 引入偏度校正，以提高尾部概率近似的准确性。
• 利用所得近似结果设定检测阈值，无需模拟，从而实现在受控平均运行长度下的在线检测。

实验结果

研究问题

• RQ1 能否在保持检测能力的同时，使基于核函数的变点检测方法在大规模背景数据下具备计算效率？
• RQ2 在在线变点检测中，如何在不依赖模拟的前提下实现准确的误报控制？
• RQ3 何种理论框架可刻画具有依赖块MMD的扫描统计量的尾部分布行为？
• RQ4 偏度校正能否提升基于核函数统计量的尾部概率近似准确性？
• RQ5 所提出的扫描 $B$-统计量在真实世界高维数据上的表现相较于现有方法如何？

主要发现

• 在 CENSREC-1-C 语音数据集上，所提扫描 $B$-统计量的平均 AUC 达到 0.8014，优于基线算法的 0.7578。
• 在模拟的低信噪比（SNR）数据上，该方法在八个设置下的平均 AUC 为 0.9355，高于基线的 0.9015。
• 在模拟的 20dB SNR 数据上，该方法的平均 AUC 为 0.7118，略优于基线的 0.6955。
• 在 HASC 人体活动数据集上，该方法的 AUC 达到 0.8871，显著优于基线的 0.7161。
• 测度变换对尾部概率的近似被证明高度准确，可实现无需模拟的可靠阈值选择。
• 该方法在真实信号（如语音和人体运动）中成功检测到变点，即使在噪声较大或视觉上难以判断的情况下亦表现良好。