[论文解读] Modelling matrix time series via a tensor CP-decomposition

Jinyuan Chang, Jing He+2 more|arXiv (Cornell University)|Dec 31, 2021

Tensor decomposition and applications被引用 4

一句话总结

本文提出了一种用于矩阵时间序列张量CP分解的新型单遍估计方法，利用广义特征分析以利用序列相关性，并克服ALS等迭代方法的局限性。该方法实现了分量向量的一致估计，并具有已建立的收敛速率，通过一种改进的投影技术将秩降低的广义特征问题转化为满秩的标准特征方程，从而在有限样本下表现出优越性能。

ABSTRACT

We consider to model matrix time series based on a tensor CP-decomposition. Instead of using an iterative algorithm which is the standard practice for estimating CP-decompositions, we propose a new and one-pass estimation procedure based on a generalized eigenanalysis constructed from the serial dependence structure of the underlying process. To overcome the intricacy of solving a rank-reduced generalized eigenequation, we propose a further refined approach which projects it into a lower-dimensional full-ranked eigenequation. This refined method improves significantly the finite-sample performance of the estimation. The asymptotic theory has been established under a general setting without the stationarity. It shows, for example, that all the component coefficient vectors in the CP-decomposition are estimated consistently with certain convergence rates. The proposed model and the estimation method are also illustrated with both simulated and real data; showing effective dimension-reduction in modelling and forecasting matrix time series.

研究动机与目标

• 通过实现有效的维度缩减，解决高维矩阵时间序列建模中的过度参数化问题。
• 克服ALS等迭代算法的缺点，包括收敛缓慢和对初始值敏感。
• 开发一种无需迭代的单遍估计程序，避免迭代过程并利用数据中的序列依赖结构。
• 在一般非平稳设定下，为CP分解建立渐近理论。
• 通过投影将秩降低的广义特征问题转化为满秩特征方程，提升有限样本性能。

提出的方法

• 该方法从矩阵时间序列的序列依赖结构构建广义特征分析问题，替代迭代优化。
• 提出一种改进方法，将秩降低的广义特征方程投影到低维满秩特征方程中，简化计算。
• 估计过程为单遍，避免了ALS中常见的初始化或多次迭代需求。
• 该方法基于由矩阵时间序列的前向切片构成的 $p \times q \times n$ 张量的张量典型多面体（CP）分解。
• 在不依赖平稳性的前提下发展了渐近理论，为分量系数向量的相合性与收敛速率提供了理论支持。
• 通过模拟和真实数据验证了该方法，结果表明其在有效维度缩减和预测性能提升方面表现优异。

实验结果

研究问题

• RQ1 能否为矩阵时间序列的张量CP分解开发一种单遍估计程序，以避免迭代方法的收敛与初始化问题？
• RQ2 如何利用矩阵时间序列中的序列依赖性来构建CP分解的广义特征分析框架？
• RQ3 通过投影将秩降低的广义特征问题转化为满秩标准特征方程的改进投影方法，在有限样本下的性能如何？
• RQ4 在非平稳设定下，所提出的方法是否能实现分量向量的一致估计？
• RQ5 与基于Tucker或迭代CP分解的现有方法相比，该方法在预测精度和维度缩减方面表现如何？

主要发现

• 所提出的单遍估计程序在无平稳性假设下，对CP分解中的所有分量系数向量均实现了相合估计，并具有已建立的收敛速率。
• 改进的投影方法通过将复杂的秩降低广义特征问题转化为可解的满秩特征方程，显著提升了有限样本性能。
• 模拟结果表明，该方法在各种 $p$、$q$ 和 $n$ 配置下，均优于标准ALS和随机初始化方法，且均方误差更低。
• 在真实数据示例中，该方法有效降低了维度，并在预测精度上优于基线模型。
• 该方法在不同矩阵尺寸和噪声水平下表现出稳健性，RMSE指标上持续获得性能提升。
• 渐近理论证实了该估计量在一般非平稳设定下的有效性，拓展了其在传统因子模型之外的应用范围。