[论文解读] Helping Effects Against Curse of Dimensionality in Threshold Factor Models for Matrix Time Series

Xialu Liu, Elynn Chen|arXiv (Cornell University)|Apr 16, 2019

Neural Networks and Applications被引用 8

一句话总结

本文提出一种用于矩阵型高维时间序列的阈值因子模型，通过制度切换载荷联合降低行和列方向的维度。关键贡献在于证明了强阈值化与各制度下的因子效应可共同缓解维度灾难，即使维度增长也能实现一致估计，且对因子数量的过度估计具有鲁棒性。

ABSTRACT

As is known, factor analysis is a popular method to reduce dimension for high-dimensional data. For matrix data, the dimension reduction can be more effectively achieved through both row and column directions. In this paper, we introduce a threshold factor models to analyze matrix-valued high-dimensional time series data. The factor loadings are allowed to switch between regimes, controlling by a threshold variable. The estimation methods for loading spaces, threshold value, and the number of factors are proposed. The asymptotic properties of these estimators are investigated. Not only the strengths of thresholding and factors, but also their interactions from different directions and different regimes play an important role on the estimation performance. When the thresholding and factors are all strong across regimes, the estimation is immune to the impact that the increase of dimension brings, which breaks the curse of dimensionality. When the thresholding in two directions and factors across regimes have different levels of strength, we show that estimators for loadings and threshold value experience 'helping' effects against the curse of dimensionality. We also discover that even when the numbers of factors are overestimated, the estimators are still consistent. The proposed methods are illustrated with both simulated and real examples.

研究动机与目标

• 通过在行和列空间中联合利用结构性降维，解决高维矩阵型时间序列中的维度灾难问题。
• 利用阈值变量建模因子载荷中的制度切换行为，以捕捉多变量时间序列中的非线性动态。
• 在高维渐近框架下，发展载荷空间、阈值点和因子数量的一致估计程序。
• 研究不同制度下阈值强度与因子强度之间的相互作用对估计性能的影响。
• 证明估计量对因子数量过度估计的鲁棒性，这是高维设置下的关键实际问题。

提出的方法

• 提出矩阵变量子阈值因子模型：$\mathbf{X}_t = \mathbf{R} \mathbf{F}_t \mathbf{C}' + \mathbf{E}_t$，其中因子载荷根据阈值变量在不同制度间切换。
• 通过联合主成分分析对行和列方向的数据进行估计，以适应阈值化结构，获得载荷空间 $\mathbf{R}$ 和 $\mathbf{C}$。
• 提出两步估计程序：首先通过候选阈值的网格搜索估计阈值点，然后在给定阈值下估计因子空间。
• 在维度和样本量同时增加的渐近框架下，利用渐近理论推导载荷、阈值和因子数量估计量的一致性和收敛速率。
• 引入基于惩罚的准则选择因子数量，证明即使因子数量被过度估计，该准则仍具有一致性。
• 应用谱范数和特征值间隔分析，建立在弱和强因子/载荷假设下估计误差的统一控制。

实验结果

研究问题

• RQ1 在矩阵时间序列中，行和列方向的阈值化效应是否能共同缓解维度灾难？
• RQ2 不同制度下阈值化与因子的相对强度如何影响估计精度和一致性？
• RQ3 在高维设置下，当因子数量被过度估计时，估计量性能会发生什么变化？
• RQ4 在何种条件下，阈值化与因子强度的相互作用会产生‘帮助效应’，从而提升估计的鲁棒性？
• RQ5 当维度 $p_1 \times p_2$ 随样本量 $T$ 增长时，能否实现对阈值点和载荷空间的一致估计？

主要发现

• 当所有制度下阈值化和因子效应均较强时，估计完全对维度灾难具有鲁棒性，无论 $p_1$ 和 $p_2$ 如何增长，均可实现一致估计。
• 当不同制度下阈值化与因子效应的强度水平混合时，‘帮助效应’出现：某一制度下较强的成分可改善另一制度下较弱成分的估计，从而降低有效维度。
• 即使因子数量被过度估计，载荷空间和阈值点的估计量仍保持一致，表现出对模型误设的鲁棒性。
• 在弱依赖和矩条件假设下，推导出阈值估计量的渐近分布，当阈值接近真实值时，收敛速率为 $O_p(\epsilon^2)$。
• 估计载荷空间的谱范数以依赖于 $p_1^{2 - \delta_{11} - \delta_{12}} p_2^{2 - \delta_{21} - \delta_{22}}$ 的速率一致收敛于真实空间，该速率在强因子和强阈值化条件下有界。
• 在跨国宏观经济数据上的实证应用证实，该模型能够捕捉结构性变化，并在预测精度上优于标准因子模型。