[论文解读] Spectral Analysis of High-dimensional Time Series

Mark Fiecas, Chenlei Leng+2 more|arXiv (Cornell University)|Oct 26, 2018

Complex Systems and Time Series Analysis参考文献 37被引用 5

一句话总结

该论文建立了高维时间序列谱密度矩阵估计的首个非渐近理论框架，实现了对平滑周期图和稀疏精度矩阵估计器的严格理论支持。在函数依赖性假设下推导出固定样本误差界，证明了在高维频域推断中估计器的收敛速率，并以 Google 流感趋势数据为例进行应用。

ABSTRACT

A useful approach for analysing multiple time series is via characterising their spectral density matrix as the frequency domain analog of the covariance matrix. When the dimension of the time series is large compared to their length, regularisation based methods can overcome the curse of dimensionality, but the existing ones lack theoretical justification. This paper develops the first non-asymptotic result for characterising the difference between the sample and population versions of the spectral density matrix, allowing one to justify a range of high-dimensional models for analysing time series. As a concrete example, we apply this result to establish the convergence of the smoothed periodogram estimators and sparse estimators of the inverse of spectral density matrices, namely precision matrices. These results, novel in the frequency domain time series analysis, are corroborated by simulations and an analysis of the Google Flu Trends data.

研究动机与目标

• 填补高维频域时间序列分析中的理论空白，特别是谱密度矩阵估计方面。
• 为平滑周期图估计器建立固定样本误差界，克服对渐近近似的依赖。
• 为频域中通过 CLIME 方法实现的稀疏精度矩阵估计提供理论支持。
• 在函数依赖结构下建立高维谱估计器的收敛速率。
• 通过模拟和对 Google 流感趋势数据的真实世界分析验证理论结果。

提出的方法

• 采用函数依赖性框架（Wu, 2005），将高维时间序列建模为独立同分布创新项的函数。
• 利用鞅和矩不等式推导出平滑周期图矩阵的非渐近集中不等式。
• 通过在频率点和矩阵元素上使用并集界方法，控制谱估计器的上确界范数偏差。
• 在频域中应用 CLIME 方法（Cai et al., 2011）估计稀疏逆谱密度矩阵。
• 以 $ M_n/n $ 和 $ (n/M_n)^{1/2 + \delta} $ 表示估计谱密度矩阵的误差界，其中 $ M_n $ 为带宽。
• 提出一种改进的估计器 $ \widetilde{f}_{ij,n}(\omega) $，以解耦依赖性并实现集中不等式。

实验结果

研究问题

• RQ1 能否为高维谱密度矩阵的平滑周期图估计器建立非渐近误差界？
• RQ2 在频域中对稀疏精度矩阵估计能提供哪些理论保证？
• RQ3 谱估计器的收敛速率如何依赖于样本量 $ n $、维度 $ p $ 和带宽 $ M_n $？
• RQ4 能否利用函数依赖性框架在高维时间序列中推导出固定样本结果？
• RQ5 在稀疏性假设下，估计逆谱密度矩阵的收敛速率是多少？

主要发现

• 论文建立了非渐近界：$ \mathbb{P}\left(\sup_{\omega} \|\widehat{\Sigma}(\omega) - \Sigma(\omega)\|_{\infty} > C(M_n/n + (n/M_n)^{1/2 + \delta}n^{-1/2}) \right) \leq p^2 n^{-H} $，对任意 $ \delta > 0 $，$ H > 0 $ 成立。
• 平滑周期图估计器的收敛速率为 $ O(M_n/n + (n/M_n)^{1/2 + \delta}n^{-1/2}) $，以高概率成立。
• 对于通过 CLIME 实现的稀疏精度矩阵估计，估计逆谱矩阵的 $ \ell_1 $-误差被限制在 $ O(t_n^{1-q}) $ 内，其中 $ t_n = M_{n,p} \lambda $ 且 $ \lambda \asymp M_n/n + n^{\delta}/M_n^{1/2 + \delta} $。
• 模拟结果证实了理论结果在高维设定下的一致性估计。
• 对 Google 流感趋势数据的真实数据分析验证了该方法在高维时间序列中恢复有意义频域依赖关系的能力。
• 论文证明了当 $ n \to \infty $ 时，$ \mathbb{P}(\mathcal{A}_n) \to 1 $，其中 $ \mathcal{A}_n $ 是控制估计谱矩阵与真实矩阵偏差的事件。