[論文レビュー] Time Series Forecasting (TSF) Using Various Deep Learning Models

Jimeng Shi, Mahek Jain+1 more|arXiv (Cornell University)|Apr 23, 2022

Air Quality Monitoring and Forecasting被引用数 36

ひとこと要約

この論文は、RNN、LSTM、GRU、Transformer のモデルを1時間ごとの北京の大気質予測で比較し、Look-back ウィンドウと予報 horizon が性能に与える影響を検討する。Transformer が多くの場合最も良い性能を示す。

ABSTRACT

Time Series Forecasting (TSF) is used to predict the target variables at a future time point based on the learning from previous time points. To keep the problem tractable, learning methods use data from a fixed length window in the past as an explicit input. In this paper, we study how the performance of predictive models change as a function of different look-back window sizes and different amounts of time to predict into the future. We also consider the performance of the recent attention-based Transformer models, which has had good success in the image processing and natural language processing domains. In all, we compare four different deep learning methods (RNN, LSTM, GRU, and Transformer) along with a baseline method. The dataset (hourly) we used is the Beijing Air Quality Dataset from the UCI website, which includes a multivariate time series of many factors measured on an hourly basis for a period of 5 years (2010-14). For each model, we also report on the relationship between the performance and the look-back window sizes and the number of predicted time points into the future. Our experiments suggest that Transformer models have the best performance with the lowest Mean Average Errors (MAE = 14.599, 23.273) and Root Mean Square Errors (RSME = 23.573, 38.131) for most of our single-step and multi-steps predictions. The best size for the look-back window to predict 1 hour into the future appears to be one day, while 2 or 4 days perform the best to predict 3 hours into the future.

研究の動機と目的

• 時系列予測の異なる look-back ウィンドウサイズによって予測精度がどのように変化するかを評価する。
• 4つの深層学習モデル（RNN、LSTM、GRU、Transformer）の北京時系列データでの性能を評価する。
• 単一步予測と多歩予測の精度を調査する。
• 特定の予報 horizon に対して最適な look-back ウィンドウサイズを特定する。

提案手法

• Beijing Air Quality Dataset（時系列、2010–2014）上で4つの深層学習モデル（RNN、LSTM、GRU、Transformer）を訓練・評価する。
• 予測誤差への影響を調べるためlook-backウィンドウサイズを変化させる。
• 1-stepおよびマルチステップ先予測を評価しMAEとRMSEを報告する。
• ベースライン手法と深層学習モデルを比較する。
• ウィンドウサイズ、ホライゾン、モデル性能の関係を報告する。

実験結果

リサーチクエスチョン

• RQ1 予測精度は異なるlook-backウィンドウサイズでどのように変化しますか？
• RQ2 北京の大気質データセットの時系列予測で、最も精度の高い深層学習モデルはどれですか？
• RQ3 単一步予測と多歩予測はモデル間でどう比較されますか？
• RQ4 1時間先予測および3時間先予測の最適なlook-backウィンドウサイズは何ですか？

主な発見

• Transformerモデルは、単一步および多歩予測のいずれの評価指標でも、試験されたアーキテクチャの中で最良の性能を達成する。
• Transformerはほとんどのシナリオで最も低いMAEとRMSEを示す（MAE = 14.599, 23.273 かつ RMSE = 23.573, 38.131 として具体値が報告されている）。
• 1時間先予測では最良のlook-backウィンドウは概ね1日; 3時間先予測では2–4日が最も良い。
• RNN、LSTM、GRUは、報告された指標で一般にTransformerを下回る。
• 本研究は、look-backウィンドウサイズと予測 horizon がモデル間でどのように性能を変えるかを分析する。