[論文レビュー] Pattern-based Long Short-term Memory for Mid-term Electrical Load Forecasting

Paweł Pełka, Grzegorz Dudek|arXiv (Cornell University)|Apr 22, 2020

Energy Load and Power Forecasting参考文献 27被引用数 4

ひとこと要約

本論文は、トレンドを除去し分散を安定化することで非線形的かつ非定常的時系列を単純化するxパターンを用いて、中期間電力需要予測のためのパターンベースの長短期記憶（LSTM）モデルを提案する。ハイブリッドLSTMxモデルは、シーケンス・ツー・シーケンスLSTMでパターンを予測し、指数平滑法で符号化変数を予測することで、12か月の予測期間において35か国にわたるヨーロッパのデータにおいて、標準LSTMおよび古典的モデルを上回る優れた精度を達成した。

ABSTRACT

This work presents a Long Short-Term Memory (LSTM) network for forecasting a monthly electricity demand time series with a one-year horizon. The novelty of this work is the use of pattern representation of the seasonal time series as an alternative to decomposition. Pattern representation simplifies the complex nonlinear and nonstationary time series, filtering out the trend and equalizing variance. Two types of patterns are defined: x-pattern and y-pattern. The former requires additional forecasting for the coding variables. The latter determines the coding variables from the process history. A hybrid approach based on x-patterns turned out to be more accurate than the standard LSTM approach based on a raw time series. In this combined approach an x-pattern is forecasted using a sequence-to-sequence LSTM network and the coding variables are forecasted using exponential smoothing. A simulation study performed on the monthly electricity demand time series for 35 European countries confirmed the high performance of the proposed model and its competitiveness to classical models such as ARIMA and exponential smoothing as well as the MLP neural network model.

研究の動機と目的

• 複雑で非線形的かつ非定常的時系列の単純化を通じて、中期間電力需要予測の精度を向上させること。
• トレンドの除去と分散の均一化を伴うパターンベースの前処理により、LSTMモデルにおける生時系列の限界を克服すること。
• xパターンとyパターンの2種類のパターンタイプを開発・評価すること。ここでxパターンは、符号化変数の別個の予測を要件とする。
• 提案されたパターンベースのLSTMモデルの性能を、標準LSTM、ARIMA、指数平滑法、MLPモデルと比較すること。
• アンサンブル化が予測の頑健性と誤差低減に与える影響を評価すること。

提案手法

• xパターンは、元の時系列の正規化された季節的部分列を表し、トレンドのフィルタリングと分散の安定化を通じて予測を単純化する。
• xパターンアプローチでは、シーケンス・ツー・シーケンスLSTMネットワークがパターン系列を予測し、指数平滑法が再構成に使用する符号化変数（例：レベルとトレンド）を予測する。
• yパターンアプローチでは、前年のパターンから符号化変数を決定するため、時間的依存性が生じ、学習が複雑化する。
• 最終的な予測は、予測されたパターンに現在のトレンドと分散を再適用することで再構成され、元のスケールに戻される。
• モデルアンサンブルは、100回の独立したトレーニングランの予測を平均化することで実装され、頑健性の向上と誤差低減が図られる。
• 本モデルは、12か月の予測期間にわたり、35か国の月次電力需要データを用いて評価された。

実験結果

リサーチクエスチョン

• RQ1 パターンベースの前処理は、中期間電力需要予測におけるLSTMモデルの予測精度を向上させることができるか？
• RQ2 符号化変数の予測を分離するxパターンアプローチは、yパターンアプローチと比較して、精度および安定性において優れているか？
• RQ3 シーケンス・ツー・シーケンスLSTMと指数平滑法を統合したハイブリッドLSTMxモデルは、標準LSTMおよび古典的統計モデルを上回る性能を示すか？
• RQ4 モデルアンサンブル化は、提案フレームワークにおける予測誤差低減および頑健性向上にどの程度寄与するか？
• RQ5 提案されたモデルは、実世界のヨーロッパの電力需要データにおいて、ARIMA、指数平滑法、MLPモデルと比較してどの程度の性能を示すか？

主な発見

• xパターンとハイブリッド予測アプローチを用いたLSTMxモデルは、すべてのLSTMバリアントの中で最小のMAPE（4.99％）を達成し、標準LSTMおよびLSTMyを上回った。
• LSTMxアンサンブルモデルは、中央値APEを3.01％、MAPEを4.99％に低減させ、100回の独立したトレーニングランの平均化により顕著な誤差低減が確認された。
• 国別予測において、LSTMxアンサンブルはポーランドでMAPEが1.79％、ドイツで1.60％を達成し、他のモデルを上回った。
• LSTMyモデルは、符号化変数の推定が遅れるため、時系列に乱れを生じさせ、予測誤差が増加した。
• 提案されたパターンベースのアプローチにより、元の時系列がより規則的かつ正規化された季節的パターンに単純化されたため、LSTMの性能が顕著に向上した。
• 結果から、LSTMxモデルは特に年間後半において顕著な改善が見られたことから、指数平滑法やMLPといった古典的モデルと同等の性能を示すことがわかった。