[论文解读] Instance-wise Graph-based Framework for Multivariate Time Series Forecasting

Wentao Xu, Weiqing Liu+3 more|arXiv (Cornell University)|Sep 14, 2021

Time Series Analysis and Forecasting参考文献 24被引用 5

一句话总结

该论文提出了一种基于实例的图神经网络框架（IGMTF），用于多变量时间序列预测。该框架通过构建动态实例图，捕捉不同变量的历史时间序列与当前目标序列之间的相互依赖关系。通过采样相关的历史实例，并利用图神经网络聚合其特征，IGMTF在Traffic、Electricity和Exchange-Rate数据集上实现了最先进性能，通过利用跨时间戳依赖关系显著提升了预测效果。

ABSTRACT

The multivariate time series forecasting has attracted more and more attention because of its vital role in different fields in the real world, such as finance, traffic, and weather. In recent years, many research efforts have been proposed for forecasting multivariate time series. Although some previous work considers the interdependencies among different variables in the same timestamp, existing work overlooks the inter-connections between different variables at different time stamps. In this paper, we propose a simple yet efficient instance-wise graph-based framework to utilize the inter-dependencies of different variables at different time stamps for multivariate time series forecasting. The key idea of our framework is aggregating information from the historical time series of different variables to the current time series that we need to forecast. We conduct experiments on the Traffic, Electricity, and Exchange-Rate multivariate time series datasets. The results show that our proposed model outperforms the state-of-the-art baseline methods.

研究动机与目标

• 解决现有方法在不同时间戳下忽略不同变量之间相互依赖关系的局限性。
• 通过利用其他变量相似历史时间序列中的模式，提升多变量时间序列预测性能。
• 设计一种简单但高效的框架，动态采样并聚合相关的历史实例以实现预测。
• 通过消融实验与分析，验证各组件模块与超参数的有效性。

提出的方法

• 该框架引入了'序列实例'的概念，用于表示某一变量在特定时间戳下的观测值。
• 使用训练实例编码器和小批量实例编码器，对历史和当前时间序列数据进行嵌入。
• 训练实例采样器基于与当前小批量实例的相似性，选择最相关的历史实例。
• 构建实例图，其中节点为采样得到的训练实例和当前小批量实例，边表示基于相似性的连接。
• 通过可学习的映射矩阵 $W_h$ 和 $W_e$ 进行图聚合，实现历史实例信息向当前实例的传播。
• 最终预测通过将聚合的历史信息与当前实例特征相结合生成。

实验结果

研究问题

• RQ1 在不同时间戳下建模不同变量之间的相互依赖关系，能否提升多变量时间序列预测性能？
• RQ2 动态实例级图构建在捕捉跨时间戳依赖关系方面有多高效？
• RQ3 训练实例采样器与图聚合组件对预测性能的影响如何？
• RQ4 超参数 $k$（最近时间戳数量）和 $N$（邻居数量）对模型性能的敏感度如何？

主要发现

• IGMTF在Traffic、Electricity和Exchange-Rate数据集上均优于最先进方法，展现出更优的预测准确性。
• 消融实验表明，若移除训练实例采样器或映射矩阵 $W_h$ 与 $W_{e}$，性能显著下降，证实了其必要性。
• 在Traffic数据集中，预测时延为6时，最优 $k$ 值为30；而在Electricity数据集中，预测时延为3时，$k=5$ 效果最佳。
• 邻居数量 $N$ 对性能有显著影响，其最优值随数据集和时延变化，例如在Traffic数据集、时延为6时，$N=30$ 为最优。
• $k$ 和 $N$ 的超参数调优至关重要，二者均对RRSE和CORR指标具有显著影响。
• 实证分析表明，该框架能有效捕捉时间序列间的周期性与环境相似性，从而增强预测的鲁棒性。