[論文レビュー] N-HiTS: Neural Hierarchical Interpolation for Time Series Forecasting

Cristian Challú, Kin G. Olivares+4 more|arXiv (Cornell University)|Jan 30, 2022

Stock Market Forecasting Methods被引用数 42

ひとこと要約

N-HiTS は長期予測に対してマルチレートデータサンプリングと階層的補間を導入し、Transformerベースラインより約20%の精度向上を達成すると同時に、計算時間を約50倍削減します。

ABSTRACT

Recent progress in neural forecasting accelerated improvements in the performance of large-scale forecasting systems. Yet, long-horizon forecasting remains a very difficult task. Two common challenges afflicting the task are the volatility of the predictions and their computational complexity. We introduce N-HiTS, a model which addresses both challenges by incorporating novel hierarchical interpolation and multi-rate data sampling techniques. These techniques enable the proposed method to assemble its predictions sequentially, emphasizing components with different frequencies and scales while decomposing the input signal and synthesizing the forecast. We prove that the hierarchical interpolation technique can efficiently approximate arbitrarily long horizons in the presence of smoothness. Additionally, we conduct extensive large-scale dataset experiments from the long-horizon forecasting literature, demonstrating the advantages of our method over the state-of-the-art methods, where N-HiTS provides an average accuracy improvement of almost 20% over the latest Transformer architectures while reducing the computation time by an order of magnitude (50 times). Our code is available at bit.ly/3VA5DoT

研究の動機と目的

• 大規模アプリケーションにおける正確でスケーラブルな長期予測の必要性を動機づける。
• 長期にわたる予測の計算コストを削減しつつ精度を向上させるニューラル予測モデルを開発する。
• 入力信号を分解し、複数の時間スケールで階層的補間を通じて予測を合成する。
• 専門的なブロックを介して予測を周波数帯成分に解釈可能な分解を可能にする。

提案手法

• N-BEATS を2つの新規コンポーネント、マルチレート入力サンプリングと階層的補間で拡張する。
• ブロックごとにカーネルサイズを指定した MaxPool を用いて、各ブロックにスケールに焦点を当てた入力を作成する。
• 各ブロックはMLPを介して前向き・後方補間係数を学習し、バックキャストと予測を生成する。
• 制御された表現比 r_l を用いてブロックごとの補間係数の数を定義し、マルチスケール合成を実現する。
• ブロックの出力を補間の和として集約し、最終の長期予測を形成する。バックキャスト残差が後続ブロックを導く。

実験結果

リサーチクエスチョン

• RQ1 マルチレートデータサンプリングと階層的補間は、長期予測の精度と効率をどう改善できるか。
• RQ2 予測を異なる時間スケールに対応する解釈可能な周波数帯成分に分解できるか。
• RQ3 多様なデータセットに対して、アーキテクチャ的要素（マルチレートサンプリング vs 階層的補間）が性能と計算量に与える影響は。
• RQ4 パラメータを共有した単変量モデルは、長期において多変量の Transformer ベースラインと競合できるか。

主な発見

• N-HiTS は、6つの長期データセットで強力な Transformer ベースラインに対して平均 MAE/MSE をおよそ11–16%改善している。
• 本手法は最近の Transformer アーキテクチャよりおおよそ20%の平均精度向上を達成し、計算時間を約50倍削減する。
• アブレーション研究は、マルチレートサンプリングと階層的補間の両方を組み合わせると最良の性能を示し、いずれかの要素を除くと精度が低下することを示している。
• N-HiTS は予測の周波数帯への解釈可能な非線形分解を提供し、ブロック間のトレンドと季節性への洞察を可能にする。