[论文解读] Parallel Extraction of Long-term Trends and Short-term Fluctuation Framework for Multivariate Time Series Forecasting

Zhou, Yifu, Ziheng Duan+5 more|arXiv (Cornell University)|Aug 18, 2020

Time Series Analysis and Forecasting参考文献 25被引用 6

一句话总结

该论文提出PFNet，一种新颖的多变量时间序列预测框架，通过并行多任务学习同时建模长期趋势与短期波动。通过将预测分解为两个独立子任务——使用Highway-CNN建模长期趋势，使用门控网络建模短期波动，该方法在真实世界数据集上实现了卓越的预测精度，优于多种指标下的最先进模型。

ABSTRACT

Multivariate time series forecasting is widely used in various fields. Reasonable prediction results can assist people in planning and decision-making, generate benefits and avoid risks. Normally, there are two characteristics of time series, that is, long-term trend and short-term fluctuation. For example, stock prices will have a long-term upward trend with the market, but there may be a small decline in the short term. These two characteristics are often relatively independent of each other. However, the existing prediction methods often do not distinguish between them, which reduces the accuracy of the prediction model. In this paper, a MTS forecasting framework that can capture the long-term trends and short-term fluctuations of time series in parallel is proposed. This method uses the original time series and its first difference to characterize long-term trends and short-term fluctuations. Three prediction sub-networks are constructed to predict long-term trends, short-term fluctuations and the final value to be predicted. In the overall optimization goal, the idea of multi-task learning is used for reference, which is to make the prediction results of long-term trends and short-term fluctuations as close to the real values as possible while requiring to approximate the values to be predicted. In this way, the proposed method uses more supervision information and can more accurately capture the changing trend of the time series, thereby improving the forecasting performance.

研究动机与目标

• 为解决现有方法在多变量时间序列（MTS）预测中将长期趋势与短期波动混为一谈的局限性。
• 通过显式分离并建模两种不同的时间动态，提升预测精度与模型可解释性。
• 开发一种灵活高效的框架，通过并行监督实现两者的集成，无需复杂架构。
• 通过实证验证，联合建模趋势与波动相比端到端或单任务方法能带来更优的预测性能。

提出的方法

• PFNet采用多任务学习目标，同时预测长期趋势（通过LTPM）与短期波动（通过SFPM）。
• 长期趋势预测模块（LTPM）使用Highway-CNN建模原始时间序列值的演化，预测$\hat{x}_{t+h-1}$。
• 短期波动预测模块（SFPM）以差分序列$\Delta X_t$与当前状态$x_t$作为输入，预测$\Delta \hat{x}_{t+h}$，捕捉瞬时变化。
• 信息融合模块将$\hat{x}_{t+h-1}$与$\Delta \hat{x}_{t+h}$结合，重构最终预测$\hat{x}_{t+h}$，确保一致性。
• 设计了三元组损失函数，通过鼓励模型学习两部分的有意义表征，提升特征提取能力。
• 该框架兼容多种主干网络（如RNN、LSTNet、CNN-AR），展现出架构灵活性。

实验结果

研究问题

• RQ1 在多变量时间序列预测中，将长期趋势与短期波动分离是否能提升预测精度，相比联合建模？
• RQ2 通过多任务学习整合两部分对模型性能与鲁棒性有何影响？
• RQ3 在短期波动预测中，包含当前状态$x_t$相较于仅使用差分$\Delta X_t$有何贡献？
• RQ4 所提出的并行框架在不同主干架构（如CNN、RNN或LSTNet）上是否具备泛化能力？
• RQ5 三元组损失在多变量时间序列任务中对特征学习与预测性能的提升程度如何？

主要发现

• PFNet在三个真实世界数据集上，所有三项评估指标（RAE、RSE、CORR）均优于六种最先进基线模型。
• 消融研究显示，若移除短期波动模块（仅保留LTPM），性能显著下降，证实建模两部分的必要性。
• PFNet-xt（在SFPM中省略MLP，仅使用$\Delta X_t$）的性能劣于完整PFNet，证明$x_t$对短期预测具有显著贡献。
• 将CNN-AR主干替换为RNN或LSTNet后仍能取得具有竞争力的结果，证明并行预测框架的鲁棒性。
• PFNet在高维序列上的效率优于MLCNN，训练与推理时间仅约为简单基线的两倍，且比MLCNN快3.6至6.5倍。
• 在汇率数据集上，PFNet在预测时域3时RSE为0.0156，优于PFNet-xt（0.0168）与LTPM（0.0194），证实联合建模的优势。