[论文解读] Graph-Based Deep Modeling and Real Time Forecasting of Sparse Spatio-Temporal Data

Bao Wang, Xiyang Luo+4 more|arXiv (Cornell University)|Apr 2, 2018

Traffic Prediction and Management Techniques参考文献 15被引用 56

一句话总结

本文提出一个针对稀疏时空数据的两部分框架： (1) 通过多变量 Hawkes 过程推断一个稀疏的时空加权图(STWG)，(2) 在该图上构建的图结构递归神经网络(GSRNN)进行预测，在 crime 和 traffic 数据上有演示。

ABSTRACT

We present a generic framework for spatio-temporal (ST) data modeling, analysis, and forecasting, with a special focus on data that is sparse in both space and time. Our multi-scaled framework is a seamless coupling of two major components: a self-exciting point process that models the macroscale statistical behaviors of the ST data and a graph structured recurrent neural network (GSRNN) to discover the microscale patterns of the ST data on the inferred graph. This novel deep neural network (DNN) incorporates the real time interactions of the graph nodes to enable more accurate real time forecasting. The effectiveness of our method is demonstrated on both crime and traffic forecasting.

研究动机与目标

• 激励对在时空上都稀疏的 ST 数据进行准确预测。
• 引入一个 STWG，用以编码宏观尺度的时空依赖。
• 开发一个图结构化的深度神经网络（GSRNN），以捕捉推断出的图上的微观尺度模式。
• 在犯罪和交通数据集上展示实时预测性能。

提出的方法

• 将 SP 稀疏数据表示为一个 STWG，其中节点对应地理区域（例如邮编区域），边编码通过多变量 Hawkes 过程学习得到的自激和互激作用。
• 通过最大化带有 L1 正则化的惩罚对数似然来推断 STWG 以诱导稀疏性，使用带有 split-Bregman 步骤的 EM 算法求解。
• 通过映射到昼夜累计函数并应用局部超分辨率来创建用于 DNN 的增强输入，以扩充稀疏时间序列。
• 部署一个图结构化 RNN（GSRNN），其中边的 LSTM 在图边上传播信息，节点的 LSTM 汇聚以预测未来计数，形成类似前馈的架构。
• 使用基于 Hawkes 权重的加权平均池化的双向 SRNN 扩展以改善预测。],
• research_questions':['如何在不规则空间域上有效建模稀疏的时空数据？','基于 Hawkes 过程的图推断能否捕捉适用于预测的宏观尺度时空依赖？','利用推断的 STWG 的图结构化 RNN 是否能在实况预测稀疏时空数据（犯罪、交通）时优于传统基线？'],
• key_findings':['STWG 捕捉到宏观尺度的时空依赖，并在城市之间实现了对犯罪数据的稀疏图表示。','具备边 LSTM 和加权池化的 GSRNN 在洛杉矶（LA）和芝加哥（CHI）数据集的犯罪预测中，优于单节点和联合训练基线。','通过昼夜累计变换进行的数据增强显著提升了稀疏时间序列上 DNN 的性能。','GSRNN 的双向扩展和加权池化相对于单向 SRNN 变体提升了预测准确性。','交通预测实验显示，与 ST-ResNet 和基线模型相比，GSRNN 在 BikeNYC 和 TaxiBJ 数据集上具有竞争性的 RMSE 表现。'],
• table_headers:[]
• table_rows:[]

实验结果

研究问题

• RQ1 如何在不规则空间域上有效建模稀疏的时空数据？
• RQ2 基于 Hawkes 过程的图推断能否捕捉适用于预测的宏观尺度时空依赖？
• RQ3 利用推断的 STWG 的图结构化 RNN 是否能在实况预测稀疏时空数据（犯罪、交通）时优于传统基线？

主要发现

• STWG 捕捉到宏观尺度的时空依赖，并在城市之间实现了对犯罪数据的稀疏图表示。
• 具备边 LSTM 和加权池化的 GSRNN 在洛杉矶（LA）和芝加哥（CHI）数据集的犯罪预测中，优于单节点和联合训练基线。
• 通过昼夜累计变换进行的数据增强显著提升了稀疏时间序列上 DNN 的性能。
• GSRNN 的双向扩展和加权池化相对于单向 SRNN 变体提升了预测准确性。
• 交通预测实验显示，与 ST-ResNet 和基线模型相比，GSRNN 在 BikeNYC 和 TaxiBJ 数据集上具有竞争性的 RMSE 表现。