[论文解读] Estimation for Latent Factor Models for High-Dimensional Time Series

Clifford Lam, Qiwei Yao+1 more|arXiv (Cornell University)|Apr 13, 2010

Financial Risk and Volatility Modeling参考文献 23被引用 4

一句话总结

该论文提出了一种高维因子模型，适用于变量数 $ p $ 超过样本量 $ n $ 的时间序列。通过分析一个 $ p \times p $ 的正定矩阵的特征值分解，估计因子载荷矩阵与精度矩阵，实现了 $ L_2 $-一致性，且收敛速率与 $ p $ 无关，在强因子条件下有效消除了维度灾难的影响。

ABSTRACT

This paper deals with the dimension reduction for high-dimensional time series based on common factors. In particular we allow the dimension of time series $p$ to be as large as, or even larger than, the sample size $n$. The estimation for the factor loading matrix and the factor process itself is carried out via an eigenanalysis for a $p imes p$ non-negative definite matrix. We show that when all the factors are strong in the sense that the norm of each column in the factor loading matrix is of the order $p^{1/2}$, the estimator for the factor loading matrix, as well as the resulting estimator for the precision matrix of the original $p$-variant time series, are weakly consistent in $L_2$-norm with the convergence rates independent of $p$. This result exhibits clearly that the `curse' is canceled out by the `blessings' in dimensionality. We also establish the asymptotic properties of the estimation when not all factors are strong. For the latter case, a two-step estimation procedure is preferred accordingly to the asymptotic theory. The proposed methods together with their asymptotic properties are further illustrated in a simulation study. An application to a real data set is also reported.

研究动机与目标

• 解决高维时间序列中变量数 $ p $ 超过样本量 $ n $ 时的降维挑战。
• 开发一种在大规模因子模型中估计因子载荷矩阵与精度矩阵的统计上可靠且计算上可行的方法。
• 在强因子与弱因子条件下，建立估计的渐近理论，特别是当 $ p \to \infty $ 时。
• 提供一种对任意有限 $ p $ 可识别的模型，不同于传统计量经济学因子模型依赖于 $ p \to \infty $ 时的渐近可识别性。
• 通过模拟与真实数据应用，展示该方法在 $ p > n $ 情况下的稳健性与高效性。

提出的方法

• 采用 $ p \times p $ 的非负定矩阵的特征值分解来估计因子载荷矩阵与因子过程。
• 将 $ p $ 维时间序列分解为由低维因子驱动的动态部分与作为向量白噪声建模的静态部分。
• 以观测序列的样本协方差矩阵作为特征值分解的基础，即使在 $ p > n $ 时也能实现估计。
• 当并非所有因子均为强因子时，采用两步估计程序，提升渐近性质与估计精度。
• 利用矩阵范数不等式与集中不等式，推导因子载荷估计量与精度矩阵估计量在 $ L_2 $-范数下的收敛速率。
• 在正则性条件下，建立精度矩阵估计量的一致性，证明当因子为强因子时，收敛速率与 $ p $ 无关。

实验结果

研究问题

• RQ1 当变量数 $ p $ 超过样本量 $ n $ 时，是否可以一致估计因子模型？若可以，其条件是什么？
• RQ2 在 $ p \to \infty $ 的高维设定下，因子载荷矩阵与精度矩阵的估计行为如何？
• RQ3 因子强度（由因子载荷列的范数定义）对估计量收敛速率有何影响？
• RQ4 如何在高维时间序列因子模型中缓解维度灾难？
• RQ5 当并非所有因子均为强因子时，最优估计策略是什么？其与一步法相比有何差异？

主要发现

• 当所有因子均为强因子时（即因子载荷矩阵的每一列范数为 $ \sim p^{1/2} $），因子载荷估计量在 $ L_2 $-范数下弱一致，且收敛速率与 $ p $ 无关。
• 在相同强因子条件下，原始 $ p $-元时间序列的精度矩阵估计量在 $ L_2 $-范数下也弱一致。
• 两个估计量的收敛速率均与 $ p $ 无关，表明高维性带来的‘祝福’有效抵消了维度灾难的影响。
• 对于弱因子，需采用两步估计程序，理论分析与模拟结果均表明其渐近性能更优。
• 精度矩阵的估计误差为 $ O_P(p^{1-\nu} \|\widehat{\mathbf{A}} - \mathbf{A}\|) $，其中 $ \nu $ 取决于因子强度，且速率由因子载荷估计误差控制。
• 由于采用对 $ p \times p $ 矩阵进行特征值分解而非高维矩阵求逆，该方法在 $ p $ 达数千时仍保持计算可行性。