[论文解读] Modeling Multivariate Spatial-Temporal Data with Latent Low-Dimensional Dynamics

Elynn Y. Chen, Yun Xin+2 more|arXiv (Cornell University)|Feb 2, 2020

Spatial and Panel Data Analysis参考文献 41被引用 5

一句话总结

本文提出了一种新颖的多变量时空模型，利用潜在的低维动态特性，同时捕捉高维数据中的变量、空间和时间依赖关系。通过将多变量因子分析与非参数化的潜在经验正交函数（EOF）相结合，该方法在保持复杂协方差结构的同时实现了显著的降维，从而在具有规则时间采样但空间分布不规则的数据上实现了高效且精确的时空预测。

ABSTRACT

High-dimensional multivariate spatial-temporal data arise frequently in a wide range of applications; however, there are relatively few statistical methods that can simultaneously deal with spatial, temporal and variable-wise dependencies in large data sets. In this paper, we propose a new approach to utilize the correlations in variable, space and time to achieve dimension reduction and to facilitate spatial/temporal predictions in the high-dimensional settings. The multivariate spatial-temporal process is represented as a linear transformation of a lower-dimensional latent factor process. The spatial dependence structure of the factor process is further represented non-parametrically in terms of latent empirical orthogonal functions. The low-dimensional structure is completely unknown in our setting and is learned entirely from data collected irregularly over space but regularly over time. We propose innovative estimation and prediction methods based on the latent low-rank structures. Asymptotic properties of the estimators and predictors are established. Extensive experiments on synthetic and real data sets show that, while the dimensions are reduced significantly, the spatial, temporal and variable-wise covariance structures are largely preserved. The efficacy of our method is further confirmed by the prediction performances on both synthetic and real data sets.

研究动机与目标

• 解决在变量、空间和时间层面同时存在复杂依赖关系的高维多变量时空数据建模挑战。
• 在保留变量、空间和时间层面完整协方差结构的同时降低维度。
• 为具有不规则空间采样但时间采样规则的数据开发高效的估计与预测方法。
• 建立所提出估计器与预测器的理论渐近性质。
• 在合成数据与真实世界环境数据集上验证该方法的性能。

提出的方法

• 将多变量时空过程建模为低维潜在因子过程的线性变换，其中因子过程捕捉变量间的相关性。
• 使用潜在经验正交函数（EOF）对潜在因子过程中的空间依赖进行非参数化表示，称为空间载荷函数。
• 空间载荷函数的系数随时间变化，使模型能够捕捉时间动态。
• 将来自 n 个空间位置的观测整合为 n×p 的时间序列矩阵，将模型重新表述为用于估计的矩阵因子模型。
• 估计过程利用空间微元效应的白噪声特性，并对空间载荷函数引入非参数平滑。
• 基于估计的潜在低秩结构，对新的空间位置和未来时间点进行预测。

实验结果

研究问题

• RQ1 低秩潜在因子模型能否有效捕捉高维时空数据中联合的空间、时间与多变量依赖关系？
• RQ2 如何从具有规则时间采样但空间分布不规则的数据中估计非参数化空间载荷函数？
• RQ3 在降低维度的同时，该方法在多大程度上保留了原始的时空协方差结构？
• RQ4 与标准方法相比，该方法在真实世界环境数据上的预测性能如何？
• RQ5 在此非参数化、低秩框架下，估计器与预测器的理论渐近性质是什么？

主要发现

• 所提出的方法在合成数据与真实数据中均实现了显著的降维，同时保留了空间、时间与变量层面的协方差结构。
• 潜在因子的估计时空协方差结构与完整数据的样本协方差高度一致，如测试集热图所示。
• 在 CCDS 数据集上进行时间预测时，1步预测的均方预测误差（MSPE）为 0.574（标准差 0.141），使用 9 年训练数据。
• 使用 5 年训练数据时，2步预测的 MSPE 为 0.682（标准差 0.225），表明即使预测范围增加，方法仍具鲁棒性。
• 该方法显著降低了计算成本——使用 9 年训练数据时，训练时间仅为 1.55 分钟（标准差 0.20），支持大规模数据的可扩展分析。
• 该方法的估计器与预测器的理论渐近性质得到了严格建立，支持其统计有效性。