[论文解读] Self-boosted Time-series Forecasting with Multi-task and Multi-view Learning

Long Hoang Nguyen, Zhenhe Pan+4 more|arXiv (Cornell University)|Sep 16, 2019

Time Series Analysis and Forecasting被引用 9

一句话总结

本文提出了一种自增强的时间序列预测模型，该模型通过EEMD将原始时间序列分解为本征模函数（IMFs），然后对关系密切的IMFs采用多任务学习，对关系松散的IMFs采用多视角学习，以提升预测精度。该方法在三个真实世界数据集上优于最先进模型，RMSE值更低，且无需外部特征或领域知识，平均预测精度提升达29.4%。

ABSTRACT

A robust model for time series forecasting is highly important in many domains, including but not limited to financial forecast, air temperature and electricity consumption. To improve forecasting performance, traditional approaches usually require additional feature sets. However, adding more feature sets from different sources of data is not always feasible due to its accessibility limitation. In this paper, we propose a novel self-boosted mechanism in which the original time series is decomposed into multiple time series. These time series played the role of additional features in which the closely related time series group is used to feed into multi-task learning model, and the loosely related group is fed into multi-view learning part to utilize its complementary information. We use three real-world datasets to validate our model and show the superiority of our proposed method over existing state-of-the-art baseline methods.

研究动机与目标

• 解决在不依赖外部特定领域特征或复杂超参数调优的情况下实现高精度时间序列预测的挑战。
• 通过利用从原始时间序列中提取的内在信号分量，提升模型泛化能力与预测性能。
• 在统一框架中整合多任务学习与多视角学习，以同时利用相关与互补的信号分量。
• 证明通过EEMD分解生成的自生特征在提升多变量时间序列预测中深度学习模型性能方面的有效性。

提出的方法

• 使用集合经验模态分解（EEMD）算法将原始时间序列分解为多个本征模函数（IMFs）和一个残差项。
• 根据IMFs与原始时间序列的相似性，将其聚类为关系密切的组（用于多任务学习）和关系松散的组（用于多视角学习）。
• 使用关系密切的IMFs训练多任务学习模型，以共享表征并提升泛化能力。
• 使用关系松散的IMFs训练多视角学习模块，以捕捉不同信号分量之间的互补模式。
• 通过联合目标函数共同训练多任务与多视角组件，以增强预测性能。
• 采用k-means聚类进行特征选择，以识别并保留能降低RMSE的IMFs，从而提升模型效率与精度。

实验结果

研究问题

• RQ1 从EEMD分解中生成的自生特征是否能在不依赖外部数据或领域知识的情况下提升时间序列预测性能？
• RQ2 在分解后的信号分量上结合多任务与多视角学习，相较于单范式模型，对预测精度有何影响？
• RQ3 各个本征模函数（IMFs）对整体模型性能的相对贡献如何？特征选择能否进一步提升结果？
• RQ4 所提出的自增强机制是否在多样化的时间序列数据集上持续优于最先进模型？

主要发现

• 自增强模型在电力消耗、气温和汇率数据集上的RMSE值分别为91.1300、1.5910和0.0082，优于所有基线模型。
• 与所有三个数据集上的最佳基线模型相比，该模型平均RMSE降低29.4%，在气温和汇率数据上提升最大。
• 仅使用多任务学习变体（MTL）的性能劣于完整自增强模型，表明多视角学习对性能提升具有显著贡献。
• 多视角学习变体（MTV）仅在时间延迟为1时表现与完整模型相当，但在更长延迟下表现更差，证实了联合共同训练的优势。
• RMSE系数分析显示，部分IMFs对性能产生负面影响；通过特征选择剔除此类IMFs可提升模型效率与精度。
• 随着更多IMFs的引入，模型性能先提升后下降，表明智能IMF选择至关重要。