[论文解读] Z-GCNETs: Time Zigzags at Graph Convolutional Networks for Time Series Forecasting

Yuzhou Chen, Ignacio Segovia-Domínguez+1 more|arXiv (Cornell University)|May 10, 2021

Topological and Geometric Data Analysis参考文献 39被引用 44

一句话总结

Z-GCNETs 在图卷积网络中引入时间感知的 Zigzag 持久性层，以利用时间条件化的拓扑特征，从而在交通和以太坊代币网络的时序预测中取得改进。它在4个数据集上优于13个最先进方法。

ABSTRACT

There recently has been a surge of interest in developing a new class of deep learning (DL) architectures that integrate an explicit time dimension as a fundamental building block of learning and representation mechanisms. In turn, many recent results show that topological descriptors of the observed data, encoding information on the shape of the dataset in a topological space at different scales, that is, persistent homology of the data, may contain important complementary information, improving both performance and robustness of DL. As convergence of these two emerging ideas, we propose to enhance DL architectures with the most salient time-conditioned topological information of the data and introduce the concept of zigzag persistence into time-aware graph convolutional networks (GCNs). Zigzag persistence provides a systematic and mathematically rigorous framework to track the most important topological features of the observed data that tend to manifest themselves over time. To integrate the extracted time-conditioned topological descriptors into DL, we develop a new topological summary, zigzag persistence image, and derive its theoretical stability guarantees. We validate the new GCNs with a time-aware zigzag topological layer (Z-GCNETs), in application to traffic forecasting and Ethereum blockchain price prediction. Our results indicate that Z-GCNET outperforms 13 state-of-the-art methods on 4 time series datasets.

研究动机与目标

• 将显式时间条件表示与深度学习中的拓扑数据分析相结合以提升效果的动机。
• 开发基于 Zigzag 持久性的拓扑摘要（Zigzag 持久图像）并提供稳定性保证。
• 通过专门的 Zigzag 层（Z-GCNETs）将时间感知的拓扑特征整合到 GCNs 中。
• 在统一的预测框架中融合空间、时间和拓扑信息。

提出的方法

• 从多变量时序数据通过滑动窗口构建时间演化图。
• 跨时间提取 Zigzag 持久性图并将其转换为 Zigzag 持久图像（ZPI），并提供稳定性保证。
• 通过卷积神经网络处理 ZPI 以获得学习到的拓扑表示（Z^{(\nabla)}）。
• 将 Z^{(\nabla)} 与使用扩散型拉普拉斯算子（L̃）的一阶图卷积结合，并加入循环模块（GRU）以进行多步预测。
• 使用一个时间感知 Zigzag 拓扑层在 GRU 预测前融合空间、时间和拓扑特征。

实验结果

研究问题

• RQ1 时间条件 Zigzag 持久性是否能超越标准时空 GCN 提升图上时序预测的准确性？
• RQ2 在神经网络中将 Zigzag 持久性表示为图像的稳定性及其实际收益为何？
• RQ3 将拓扑信息引入对交通和区块链数据集的鲁棒性与性能有何影响？

主要发现

• Z-GCNETs 在四个时序数据集上优于13个最先进的基线方法。
• 在 PeMSD4/PeMSD8 上，Z-GCNETs 实现了比竞争方法更低的 RMSE/MAE/MAPE，例如 PeMSD4 的 RMSE 为 31.61 而其他方法的范围为 32.30–39.88。
• 在以太坊代币网络（Bytom、Decentraland）上，Z-GCNETs 实现了比基线更好的 MAPE（分别为 31.04% 和 23.81%）。
• 消融实验显示去除 Zigzag 学习、空间 GCN 或时间 GCN 都会降低性能，其中时间 GCN 的影响尤为显著。
• ZPI 表示对 Wasserstein-1 距离具有稳定性，确保拓扑摘要的可靠性。