[论文解读] Gaussian Approximation for High Dimensional Time Series

Danna Zhang, Wei Biao Wu|arXiv (Cornell University)|Aug 27, 2015

Statistical Methods and Inference参考文献 28被引用 18

一句话总结

本文通过利用函数依赖度量，为高维平稳时间序列建立了高斯近似，使得在弱依赖和发散维度下能够对均值向量进行有效的联合推断。关键贡献在于，给出了归一化样本均值与高斯向量之间在上范数距离上的非渐近界，该结果在一般矩条件和依赖结构下适用于置信区间和自助法。

ABSTRACT

We consider the problem of approximating sums of high-dimensional stationary time series by Gaussian vectors, using the framework of functional dependence measure. The validity of the Gaussian approximation depends on the sample size $n$, the dimension $p$, the moment condition and the dependence of the underlying processes. We also consider an estimator for long-run covariance matrices and study its convergence properties. Our results allow constructing simultaneous confidence intervals for mean vectors of high-dimensional time series with asymptotically correct coverage probabilities. A Gaussian multiplier bootstrap method is proposed. A simulation study indicates the quality of Gaussian approximation with different $n$, $p$ under different moment and dependence conditions.

研究动机与目标

• 在样本大小 $ n $ 和维度 $ p $ 同时发散时，为高维平稳时间序列的归一化样本均值向量建立高斯近似。
• 将中心极限定理推广至 $ p \to \infty $ 的高维情形，克服在 $ \sqrt{n} = o(p) $ 条件下经典中心极限定理失效的问题。
• 建立归一化样本均值向量的上范数收敛到高斯向量上范数的分布收敛条件。
• 在弱依赖条件下，提供长期协方差矩阵的一致估计，以支持实际推断。
• 开发一种高斯乘子自助法，其在高维时间序列中对联合置信区间具有渐近正确的覆盖概率。

提出的方法

• 利用函数依赖度量框架量化高维时间序列中的依赖性，允许处理弱依赖结构。
• 通过耦合和尾概率不等式，建立归一化样本均值与高斯向量之间在上范数距离上的非渐近界。
• 提出长期协方差矩阵 $ \Sigma $ 的批均估计器，并为依赖过程的二次型推导出大偏差界。
• 利用估计的长期协方差矩阵实施高斯乘子自助法，以构造具有渐近正确覆盖概率的联合置信区间。
• 通过 $ Y_{m} $-近似方法使用截断和投影技术控制依赖性，误差界依赖于 $ m $、$ w $ 和 $ n $。
• 推导出 $ n $、$ p $、矩条件（$ \|X_{ij}\|_q < \infty $）以及依赖参数（$ \Psi_{2,\alpha} $、$ \Phi_{\psi_\nu,\alpha} $）的收敛条件。

实验结果

研究问题

• RQ1 在何种条件下，高维平稳时间序列的归一化样本均值向量在上范数意义下收敛到高斯向量？
• RQ2 在弱依赖的高维时间序列中，如何一致估计长期协方差矩阵？
• RQ3 高斯近似成立的充分条件是什么，涉及 $ n $、$ p $、矩矩以及依赖结构？
• RQ4 能否基于估计的长期协方差矩阵构造一种具有渐近正确覆盖概率的高斯乘子自助法，以实现高维时间序列中的联合推断？
• RQ5 高斯近似中的收敛速率如何依赖于过程的依赖强度和尾部行为？

主要发现

• 当 $ \max(L_1, L_2) \max(W_1, W_2) = o(1) \min(n, N_1, N_2) $ 时，高斯近似成立，确保归一化样本均值与高斯向量之间的上范数距离趋于零。
• 当 $ \alpha > 1/2 - 1/q $ 时，近似误差被控制在 $ \lesssim f^*(\sqrt{n}\eta) + \eta\sqrt{\log p} + h(\lambda, u_m^*(\lambda)) + \pi(\Psi_{2,\alpha}\Psi_{2,0}(m^{-\alpha} + v(M)) + wm/n) $ 以内，且在适当选择 $ m $ 和 $ w $ 时趋于零。
• 在较弱的矩条件和依赖条件下，长期协方差矩阵的批均估计器是一致的，并为二次型推导出大偏差界。
• 基于估计的长期协方差矩阵的高斯乘子自助法，对联合置信区间实现了渐近正确的覆盖概率。
• 当 $ m \gg \max(L_1, (\Psi_{2,\alpha} \log p)^{1/\alpha}) $、$ wm \ll \min(N_1, N_2) $ 且 $ w \gg \max(W_1, W_2) $ 时，近似误差减小，且 $ N_2 \lesssim n(\log p)^{-2} $。
• 当 $ \alpha < 1/2 - 1/q $ 时，界被替换为 $ f^\diamond $ 和 $ u_m^\diamond $，需满足 $ \Theta_{q,\alpha}(\log p)^{1/2} = o(n^\alpha) $，且在条件 (12) 下结论成立。