[论文解读] Central limit theorems for high dimensional dependent data

Jinyuan Chang, Xiaohong Chen+1 more|arXiv (Cornell University)|Apr 27, 2021

Statistical Methods and Inference参考文献 73被引用 10

一句话总结

本文在 α-混合、m-依赖和物理依赖框架下，为高维依赖随机向量建立了非渐近高斯近似界，其收敛速度优于以往研究。提出了一种基于核型长期协方差估计的自适应参数自助法，实现了对 ℓ² 和 ℓ∞-型统计量、变化点检测以及高维时间序列中协方差/精度矩阵的可靠推断，且无需对依赖结构做结构性假设。

ABSTRACT

Motivated by statistical inference problems in high-dimensional time series data analysis, we first derive non-asymptotic error bounds for Gaussian approximations of sums of high-dimensional dependent random vectors on hyper-rectangles, simple convex sets and sparsely convex sets. We investigate the quantitative effect of temporal dependence on the rates of convergence to a Gaussian random vector over three different dependency frameworks ($α$-mixing, $m$-dependent, and physical dependence measure). In particular, we establish new error bounds under the $α$-mixing framework and derive faster rate over existing results under the physical dependence measure. To implement the proposed results in practical statistical inference problems, we also derive a data-driven parametric bootstrap procedure based on a kernel estimator for the long-run covariance matrices. We apply the unified Gaussian and bootstrap approximation results to test mean vectors with combined $\ell^2$ and $\ell^\infty$ type statistics, change point detection, and construction of confidence regions for covariance and precision matrices, all for time series data.

研究动机与目标

• 在一般时间依赖结构下，为高维依赖随机向量建立非渐近高斯近似界。
• 量化时间依赖对高维中心极限定理收敛速度的影响。
• 在物理依赖测度下，建立快于现有结果的收敛速度。
• 基于核型长期协方差估计，开发一种自适应参数自助法程序以实现实际推断。
• 在不假设稀疏性或弱依赖的前提下，实现对均值向量、变化点检测以及协方差/精度矩阵的可靠统计推断。

提出的方法

• 在三种依赖框架（α-混合、m-依赖和物理依赖）下，针对超长方体、简单凸集和稀疏凸集，推导高斯近似的非渐近误差界。
• 采用基于投影的方法和矩不等式控制依赖结构，利用物理依赖测度和 α-混合系数。
• 引入一种核型估计量以估计长期协方差矩阵，从而实现自适应参数自助法程序。
• 应用霍尔德不等式和矩条件，控制经验协方差矩阵与真实协方差矩阵在 ∞-范数下的差异。
• 通过仔细选择截断参数 M 和带宽 bn，平衡偏差与方差项，建立收敛速度。
• 采用耦合的鞅差方法和集中不等式，控制自助法近似中的尾部概率。

实验结果

研究问题

• RQ1 在 α-混合框架下，高维依赖数据高斯近似的非渐近误差界是什么？
• RQ2 在 α-混合和物理依赖框架下，高维中心极限定理的收敛速度如何依赖于时间依赖的强度？
• RQ3 与现有结果相比，是否能在物理依赖测度下实现更快的收敛速度？
• RQ4 如何为具有普遍依赖结构的高维时间序列构造自适应参数自助法？
• RQ5 所提出的框架对均值向量、变化点检测以及协方差/精度矩阵推断有何影响？

主要发现

• 在 α-混合框架下，本文建立了新的误差界，形式为 Op{B₂ₙn⁻ᶜ¹(log p)ᶜ²} + O(B₂ₙn⁻ᵖ)，优于现有结果。
• 在物理依赖测度下，收敛速度快于以往工作，其速率为 Op{B₂ₙn⁻ᶜ¹(log p)ᶜ²} + O(n⁻ᵖΨ₂,₀Ψ₂,α̟ₙ)，其中 ̟ₙ = (log n)I(α=1) + n¹⁻ᵃI(α≠1)。
• 对于 m-依赖序列，收敛速度为 Op{B₂ₙn⁻ᶜ¹(log p)ᶜ²} + O(B₂ₙm²n⁻ᵖ)，其中 m 为依赖跨度。
• 基于核型长期协方差估计的自适应参数自助法程序，在丰富类别的集合上实现了统一的近似误差界，从而在不假设依赖结构的前提下实现可靠推断。
• 该框架支持对高维时间序列中 ℓ² 和 ℓ∞-型统计量、变化点检测以及协方差和精度矩阵的置信区域进行推断。
• 当 log p = o(nᶜ̃) 对某个依赖参数相关的 ˜c > 0 成立时，收敛速度有效，确保了在高维渐近下的适用性。