[论文解读] Bootstrapping High Dimensional Time Series

Xianyang Zhang, Guang Cheng|arXiv (Cornell University)|Jun 4, 2014

Statistical Methods and Inference参考文献 39被引用 27

一句话总结

本文提出了一种适用于弱依赖高维平稳时间序列的分块乘子（wild）自展法，即使维度随样本量呈指数增长，也能对近似线性统计量实现有效的推断。核心贡献是建立了具有多项式衰减误差的有限样本高斯近似，支持均匀置信带、二阶性质检验（如白噪声、带状协方差）以及谱性质推断，且无需依赖自协方差结构信息或高斯假设。

ABSTRACT

This article studies bootstrap inference for high dimensional weakly dependent time series in a general framework of approximately linear statistics. The following high dimensional applications are covered: (1) uniform confidence band for mean vector; (2) specification testing on the second order property of time series such as white noise testing and bandedness testing of covariance matrix; (3) specification testing on the spectral property of time series. In theory, we first derive a Gaussian approximation result for the maximum of a sum of weakly dependent vectors, where the dimension of the vectors is allowed to be exponentially larger than the sample size. In particular, we illustrate an interesting interplay between dependence and dimensionality, and also discuss one type of "dimension free" dependence structure. We further propose a blockwise multiplier (wild) bootstrap that works for time series with unknown autocovariance structure. These distributional approximation errors, which are finite sample valid, decrease polynomially in sample size. A non-overlapping block bootstrap is also studied as a more flexible alternative. The above results are established under the general physical/functional dependence framework proposed in Wu (2005). Our work can be viewed as a substantive extension of Chernozhukov et al. (2013) to time series based on a variant of Stein's method developed therein.

研究动机与目标

• 解决高维时间序列在弱依赖条件下缺乏有效自展推断方法的问题。
• 在不假设高斯分布或独立同分布的前提下，实现对高维均值向量的均匀置信带构造。
• 开发一种无需事先掌握时间序列自协方差结构信息的自展程序。
• 支持对高维时间序列的二阶性质与谱性质（如带状性、白噪声检验）的设定检验。
• 建立最大值的有限样本高斯近似理论，适用于维度随样本量呈指数增长的弱依赖向量。

提出的方法

• 利用Stein方法的一种变体与Slepian插值法，推导出弱依赖随机向量和的最大值的高斯近似。
• 提出一种分块乘子（wild）自展法，通过使用独立同分布的乘子变量，避免对未知自协方差矩阵的直接估计。
• 采用非重叠分块自展法作为分块乘子自展法的灵活替代方案。
• 应用Wu（2005）提出的物理/函数依赖框架来建模高维时间序列中的弱依赖性。
• 推导出经验最大值与其高斯类比之间Kolmogorov距离的界，误差随样本量呈多项式衰减。
• 使用影响函数为基础的估计方程与分块平均统计量，构建用于谱性质与二阶性质的检验统计量。

实验结果

研究问题

• RQ1 能否为维度随样本量呈指数增长的高维时间序列开发一种在该情形下依然有效的自展方法？
• RQ2 弱依赖性如何影响高维时间序列最大值的高斯近似精度？
• RQ3 能否构建一种无需依赖未知自协方差结构信息的自展程序？
• RQ4 是否可能在不依赖零假设极限分布存在性的前提下，对谱性质与二阶性质（如带状性、白噪声）进行有效推断？
• RQ5 在高维时间序列设定下，自展近似误差的收敛速率是多少？

主要发现

• 所提出的分块乘子自展法在维度随样本量呈指数增长时，仍能实现随样本量多项式衰减的有限样本近似误差。
• 弱依赖向量最大值的高斯近似成立，其误差界取决于依赖强度与维度之间的相互作用。
• 识别出一种新型的“维度无关”依赖结构，在该结构下，维度可如同数据独立时一样增长，同时保持近似精度。
• 该自展程序可在不假设高斯分布或独立同分布的前提下，实现对高维均值向量的均匀置信带的有效推断。
• 谱性质与二阶性质检验（如带状性、白噪声检验）可在不依赖零假设极限分布存在性的前提下实现，较独立同分布文献有显著改进。
• 在物理/函数依赖框架下建立了理论保证，自展覆盖误差的收敛速率可达 $ n^{-c} $ 阶，其中 $ c > 0 $。