[论文解读] Estimating a Change Point in a Sequence of Very High-Dimensional Covariance Matrices

Holger Dette, Guangming Pan+1 more|arXiv (Cornell University)|Jul 27, 2018

Statistical Methods and Inference参考文献 23被引用 16

一句话总结

本文提出一种两阶段方法，用于估计高维协方差矩阵中的变点，其中维度 p 远大于样本量 n。首先，通过阈值加权平方差和识别显著的协方差差异，实现降维；其次，在降维后的分量上使用 CUSUM 统计量定位变点。该方法在无需稀疏性假设的一般条件下实现了具理论保证的一致估计，并得到模拟结果支持。

ABSTRACT

This article considers the problem of estimating a change point in the covariance matrix in a sequence of high-dimensional vectors, where the dimension is substantially larger than the sample size. A two-stage approach is proposed to efficiently estimate the location of the change point. The first step consists of a reduction of the dimension to identify elements of the covariance matrices corresponding to significant changes. In a second step, we use the components after dimension reduction to determine the position of the change point. Theoretical properties are developed for both steps, and numerical studies are conducted to support the new methodology. Supplementary materials for this article are available online.

研究动机与目标

• 解决当 p >> n 时检测高维协方差矩阵结构变化的挑战。
• 开发一种避免对协方差矩阵施加严格稀疏性假设的方法。
• 为高维设定下变点位置提供理论基础坚实的一致估计量。
• 通过降维减少无关协方差分量带来的噪声，提升检测准确性。

提出的方法

• 应用降维步骤，通过在潜在变点处对加权平方差和进行阈值处理，识别协方差矩阵中具有显著变化的分量。
• 使用自助法选择降维的最优阈值，以平衡敏感性与特异性。
• 基于降维后的分量构建一种 CUSUM 类型的检验统计量，用于估计变点位置。
• 利用次高斯尾部界和矩不等式，推导在原假设与备择假设下检验统计量的集中不等式。
• 利用 Johnson 等人（1985）的理论结果，界定 CUSUM 统计量的尾部概率，确保一致性。
• 在一般条件下建立类型 I 与类型 II 错误的渐近控制，包括 p n^{-M} → 0 和 p n e^{-cτ} → 0。

实验结果

研究问题

• RQ1 能否在不假设协方差矩阵稀疏性的前提下，为高维协方差矩阵开发出一致的变点估计量？
• RQ2 如何有效降低维度，以分离出对变点检测最具信息量的分量？
• RQ3 该两阶段方法在错误率与收敛性方面的理论表现如何？
• RQ4 在高维、非稀疏设定下，该方法与现有方法相比在稳健性与准确性方面表现如何？
• RQ5 降维步骤中最佳阈值的选择策略是什么？

主要发现

• 所提出的两阶段方法在一般条件下实现了对变点的一致估计，即使在 p >> n 的情况下亦成立。
• 降维步骤有效隔离了具有显著协方差差异的分量，减少了无关条目带来的噪声。
• 理论分析表明，变点估计的误差概率为 o(1/n)，表明具有强一致性。
• 该方法在较弱的矩条件与尾部条件下（包括次高斯尾部）仍能控制类型 I 与类型 II 错误。
• 模拟研究证实了该方法在高维、非稀疏设定下的稳健性与优于替代方法的性能。
• 基于自助法的阈值选择提升了有限样本性能，并确保了可靠的分量选择。