[论文解读] Localizing Changes in High-Dimensional Vector Autoregressive Processes

Daren Wang, Yi Yu+2 more|arXiv (Cornell University)|Sep 12, 2019

Statistical Methods and Inference参考文献 62被引用 20

一句话总结

本文提出了一种新颖的动态规划方法，用于在具有分段常数系数矩阵的高维向量自回归（VAR）过程中定位变化点。该方法在不同维度、稀疏性、时间间隔和系数差异下均能实现一致的变化点检测，并通过改进算法实现了可证明的误差率提升，在模拟和真实数据中均优于现有方法。

ABSTRACT

Autoregressive models capture stochastic processes in which past realizations determine the generative distribution of new data; they arise naturally in a variety of industrial, biomedical, and financial settings. A key challenge when working with such data is to determine when the underlying generative model has changed, as this can offer insights into distinct operating regimes of the underlying system. This paper describes a novel dynamic programming approach to localizing changes in high-dimensional autoregressive processes and associated error rates that improve upon the prior state of the art. When the model parameters are piecewise constant over time and the corresponding process is piecewise stable, the proposed dynamic programming algorithm consistently localizes change points even as the dimensionality, the sparsity of the coefficient matrices, the temporal spacing between two consecutive change points, and the magnitude of the difference of two consecutive coefficient matrices are allowed to vary with the sample size. Furthermore, the accuracy of initial, coarse change point localization estimates can be boosted via a computationally-efficient refinement algorithm that provably improves the localization error rate. Finally, a comprehensive simulation experiments and a real data analysis are provided to show the numerical superiority of our proposed methods.

研究动机与目标

• 解决在模型参数随时间变化的高维向量自回归（VAR）过程中检测变化点的挑战。
• 开发一种方法，即使在维度、稀疏性和时间间隔随样本量变化时，也能一致地定位变化点。
• 通过计算高效的改进算法，提升初始粗略变化点估计的准确性，实现可证明的误差率改进。
• 在模拟和真实数据中，展示该方法在数值性能上优于现有方法（如INSPECT和SBS-MVTS）。

提出的方法

• 提出一种动态规划算法，用于检测具有分段常数系数矩阵的高维VAR过程中的变化点。
• 该方法利用惩罚似然公式，在系数矩阵估计中平衡模型拟合度与稀疏性。
• 引入一种改进算法，以提升初始粗略变化点估计的准确性，降低定位误差率。
• 理论分析建立了在一般高维渐近框架下变化点定位的一致性，包括变化的稀疏性和时间间隔。
• 该方法利用限制特征值条件和次高斯尾部界，控制高维设置下的估计误差。
• 该算法在合成数据和真实时间序列上均得到应用，性能通过模拟研究和实证分析得到验证。

实验结果

研究问题

• RQ1 当系数矩阵为分段常数时，动态规划方法是否能在高维VAR过程中一致地定位变化点？
• RQ2 与现有变化点检测方法（如INSPECT和SBS-MVTS）相比，该方法在检测VAR模型中结构变化时表现如何？
• RQ3 该方法的理论误差率是多少？能否通过改进算法进一步提升？
• RQ4 维度、稀疏性和变化点间时间间隔的变化如何影响该方法的一致性和准确性？
• RQ5 该方法能否检测到基于均值或协方差的变化点检测技术无法识别的变化？

主要发现

• 所提出的动态规划方法即使在维度、稀疏性和时间间隔随样本量变化时，也能在高维VAR模型中实现一致的变化点定位。
• 改进算法可证明地改善了定位误差率，使估计误差低于初始粗略估计。
• 在模拟研究中，该方法在示例1中正确识别出t=80和t=160处的变化点，而INSPECT和SBS-MVTS未能检测到。
• 在检测VAR过程中变化点时，该方法优于竞争方法，尤其在变化点在原始数据或样本协方差矩阵中不可见的情况下。
• 理论分析表明，该方法在一般高维渐近框架下保持一致性，包括非独立同分布噪声和时变系数结构。
• 通过利用具有稀疏性诱导正则化的惩罚似然公式和动态规划优化，该方法实现了改进的误差率。