[论文解读] Change Points in High Dimensional Settings

John A. D. Aston, Claudia Kirch|arXiv (Cornell University)|Sep 5, 2014

Statistical Methods and Inference参考文献 39被引用 10

一句话总结

本文提出基于投影的高维变点检测方法，比较全样本、最优投影与随机投影三种方法。引入‘高维效率’以量化维度增加时的可检测性，表明沿真实变点方向投影可显著提升检验功效，尤其在协方差矩阵误设时效果更明显。

ABSTRACT

While there is considerable work on change point analysis in univariate time series, more and more data being collected comes from high dimensional multivariate settings. This paper investigates change point detection procedures using projections and develops asymptotic theory for how full panel (multivariate) tests compare with both oracle and random projections. This is done by considering an analogous concept to asymptotic relative efficiency termed high dimensional efficiency. This provides the rate at which the change can get smaller with dimension while still being detectable. The effect of misspecification of the covariance on the power of the tests is investigated, because in many high dimensional situations estimation of the full dependency (covariance) between the multivariate observations in the panel is often either computationally or even theoretically infeasible. It is shown that if information concerning the direction of change is available, then projecting in this direction is always advantageous over the use of a panel statistic, in terms of size and power, particularly when the covariance is misspecified. Even if the change is not known, the projection method achieves a better power as long as the difference between the true change and the direction of the projection is small. The features of the tests are quantified in theory and simulations indicate that these results are indicative of small sample behaviour.

研究动机与目标

• 解决在全样本协方差估计不可行的高维多变量时间序列中检测变点的挑战。
• 在高维渐近框架下，研究基于投影的方法与全样本检验在大小与功效方面的比较。
• 量化协方差误设对高维设定下检验性能的影响。
• 评估利用已知或估计的变点方向进行投影以提升检测功效的有效性。
• 为‘高维效率’这一可检测性度量提供理论与实证基础，以衡量维度增长时的可检测性。

提出的方法

• 提出基于投影的变点检验方法，将高维数据投影到方向向量上以降低维度。
• 比较三种检验类型：全样本检验（使用所有变量）、最优投影（使用真实变点方向）和随机投影。
• 在高维渐近框架下建立检验统计量的渐近理论，其中维度 p 随样本量 n 增长。
• 引入‘高维效率’作为类似渐近相对效率的度量，捕捉当维度增加时，仍能保持可检测性的变点缩小速率。
• 分析协方差矩阵误设对检验大小与功效的影响，尤其在全协方差估计在计算或理论上不可行的情境下。
• 通过模拟验证理论结果，并评估所提方法在小样本下的表现。

实验结果

研究问题

• RQ1 在高维设定下，基于投影的变点检验功效与全样本检验相比如何？
• RQ2 协方差误设对变点检测程序的大小与功效有何影响？
• RQ3 在何种条件下沿真实变点方向投影优于使用全样本统计量？
• RQ4 真实变点方向与投影方向之间的夹角如何影响检验功效？
• RQ5 随着维度增加，变点可衰减至何种程度仍能保持可检测性？（即高维效率）

主要发现

• 沿真实变点方向投影始终比使用全样本统计量具有更高的功效，尤其在协方差矩阵误设时更为显著。
• 即使不知道确切的变点方向，只要投影方向接近真实变点方向，投影方法的功效仍优于全样本检验。
• 所提出的‘高维效率’概念量化了维度增加时的可检测性，表明可检测的变点可依投影方向以特定速率缩小。
• 协方差矩阵误设对全样本检验的功效削弱程度远高于基于投影的方法，尤其当真实变点位于低维子空间时。
• 模拟结果证实，理论所得的大小与功效结论在有限样本中依然成立，表明投影方法在现实条件下具有稳健性。
• 最优投影方法功效最高，表明当可获得方向信息时，其具有显著优势。