[论文解读] N-HiTS: Neural Hierarchical Interpolation for Time Series Forecasting

Cristian Challú, Kin G. Olivares+4 more|arXiv (Cornell University)|Jan 30, 2022

Stock Market Forecasting Methods被引用 42

一句话总结

N-HiTS 引入多速率数据采样和分层插值用于长期预测，在相较 Transformer 基线实现约20%的准确性提升，同时将计算时间降低约50倍。

ABSTRACT

Recent progress in neural forecasting accelerated improvements in the performance of large-scale forecasting systems. Yet, long-horizon forecasting remains a very difficult task. Two common challenges afflicting the task are the volatility of the predictions and their computational complexity. We introduce N-HiTS, a model which addresses both challenges by incorporating novel hierarchical interpolation and multi-rate data sampling techniques. These techniques enable the proposed method to assemble its predictions sequentially, emphasizing components with different frequencies and scales while decomposing the input signal and synthesizing the forecast. We prove that the hierarchical interpolation technique can efficiently approximate arbitrarily long horizons in the presence of smoothness. Additionally, we conduct extensive large-scale dataset experiments from the long-horizon forecasting literature, demonstrating the advantages of our method over the state-of-the-art methods, where N-HiTS provides an average accuracy improvement of almost 20% over the latest Transformer architectures while reducing the computation time by an order of magnitude (50 times). Our code is available at bit.ly/3VA5DoT

研究动机与目标

• 在大规模应用中，阐明对准确且可扩展的长期预测的需求。
• 开发一种神经网络预测模型，在提高长期预测准确性的同时降低计算复杂度。
• 对输入信号进行分解，并通过多时间尺度的分层插值合成预测。
• 通过专门的模块实现对预测的可解释分解成频带组成。

提出的方法

• 在 N-BEATS 的基础上扩展两种新组件：多速率输入采样和分层插值。
• 使用带有块特定内核尺寸的 MaxPool 为每个块创建聚焦于尺度的输入。
• 每个块通过一个 MLP 学习前向和后向插值系数，以生成 backcasts 和 forecasts。
• 使用受控的表达能力比率 r_l 来定义每个块的插值系数数量，从而实现多尺度合成。
• 通过将各块的插值相加来聚合输出，形成最终的 horizon forecast，其中 backcast 残差引导后续块。

实验结果

研究问题

• RQ1 多速率数据采样和分层插值如何提高长期预测的准确性和效率？
• RQ2 预测是否可以分解为对应不同时间尺度的可解释频带成分？
• RQ3 架构组件（多速率采样与分层插值）在跨多数据集的性能和计算成本上的影响如何？
• RQ4 在长期预测中，具有共享参数的单变量模型是否能与基于多变量的 Transformer 基线竞争？

主要发现

• N-HiTS 在六个长期数据集上，相较强基线 Transformer，在平均 MAE/MSE 上取得约11–16%的提升。
• 该方法在最近的 Transformer 架构上实现约20%的平均准确性提升，并将计算时间降低约50x。
• 消融研究表明，同时结合多速率采样和分层插值可获得最佳性能；移除任一组件都会降低准确性。
• N-HiTS 提供对预测的可解释非线性分解成频带，便于洞察跨块的趋势和周期性。