[論文レビュー] Short-Term Electricity-Load Forecasting by Deep Learning: A Comprehensive Survey

Qi Dong, Rubing Huang+5 more|arXiv (Cornell University)|Aug 29, 2024

Energy Load and Power Forecasting被引用数 4

ひとこと要約

この包括的なサーベイは、過去10年間における短時間電力負荷予測（STELF）におけるディープラーニングの応用をレビューし、データ前処理、特徴抽出、ディープラーニングモデル、最適化、評価の各分野を分析している。主なトレンド、課題、今後の方向性（グラフニューラルネットワーク、画像補完技術、大規模言語モデル（LLMs）を含む）を特定し、複雑で非線形な電力システムにおける予測精度とモデル汎化能力の向上のための体系的フレームワークを提供する。

ABSTRACT

Short-Term Electricity-Load Forecasting (STELF) refers to the prediction of the immediate demand (in the next few hours to several days) for the power system. Various external factors, such as weather changes and the emergence of new electricity consumption scenarios, can impact electricity demand, causing load data to fluctuate and become non-linear, which increases the complexity and difficulty of STELF. In the past decade, deep learning has been applied to STELF, modeling and predicting electricity demand with high accuracy, and contributing significantly to the development of STELF. This paper provides a comprehensive survey on deep-learning-based STELF over the past ten years. It examines the entire forecasting process, including data pre-processing, feature extraction, deep-learning modeling and optimization, and results evaluation. This paper also identifies some research challenges and potential research directions to be further investigated in future work.

研究の動機と目的

• 過去10年間における短時間電力負荷予測（STELF）におけるディープラーニング応用の体系的かつ包括的なレビューを提供すること。
• データ前処理、特徴抽出、ディープラーニングモデリング、最適化、評価指標を含む、STELFパイプライン全体を分析すること。
• 気象、季節性、スマートグリッドデータの増加に起因する非線形的で変動が激しく複雑な負荷データを扱う際の継続的な課題を特定すること。
• グラフベースのモデル、画像処理技術、大規模言語モデル（LLMs）といった新たな研究分野を検討し、予測の汎化能力およびゼロショット学習の向上に寄与すること。
• ディープラーニングベースのSTELF分野における最新手法、トレンド、未解決の問題を要約することで、研究者および実務家を支援すること。

提案手法

• 6つの主要データベースを対象にキーワードを用いた体系的文献レビューを実施し、完全性と関連性を確保するための手動スクリーニングを実施した。
• 実用的なSTELFワークフローに沿ってレビューを整理：データ収集、前処理、特徴工学、ディープラーニングモデル選定（例：DNN、RNN、CNN、Transformers）、最適化、評価。
• データ前処理（例：正規化、外れ値処理）、特徴抽出（例：気象、時系列、暦的特徴）およびモデルアーキテクチャの技術を分類・分析した。
• 損失関数設計、ハイパーパramータチューニング、および高度な最適化手法（例：Adam、SSAの変種）を含む最適化戦略を評価し、計算効率に重点を置いた。
• 空間時系列モデリングに適したグラフニューラルネットワーク（GNN）や、画像補完にインspiredされた手法（負荷予測を欠損データ生成タスクとして扱う）といった新規技術を検討した。
• 大規模言語モデル（LLMs）が、少数ショット一般化および文脈的推論能力を活用することで、ゼロショット予測にどのように寄与できるかを調査した。

Figure 1 . The structure of this survey paper.

実験結果

リサーチクエスチョン

• RQ1 短時間電力負荷予測（STELF）において、主に用いられているディープラーニングアーキテクチャは何か？また、過去10年間でどのように進化してきたか？
• RQ2 データ前処理および特徴工学の手法が、STELFにおけるディープラーニングモデルの性能とロバスト性にどのように影響を与えるか？
• RQ3 気象や季節性といった外部要因に起因する非線形的で変動が激しく複雑な電力負荷パターンをモデル化する際の主な課題は何か？
• RQ4 グラフニューラルネットワークや画像処理にインspiredされた手法（例：画像補完）をどのように応用することで、STELFにおける空間時系列表現学習を向上させられるか？
• RQ5 大規模言語モデル（LLMs）は、ゼロショットまたは少数ショット一般化を実現するために、電力負荷予測においてどのような役割を果たせるか？また、その潜在的な利点と制限は何か？

主な発見

• RNN、CNN、Transformersを含むディープラーニングモデルは、非線形的で変動が激しい負荷パターンを扱う際、従来の統計的・機械学習的手法を著しく上回っている。
• グラフニューラルネットワーク（GNN）は、複数の母線や地域間の空間的依存関係をモデル化する上で有望であるが、特に時系列モデリングと組み合わせた場合に顕著である。
• 画像ベースの予測手法（負荷時系列を画像として扱い、将来の値を欠損パッチとして扱う）は、画像補完にインspiredされた新しいアプローチであり、時系列予測に新たな視点を提供する。
• 時系列予測への大規模言語モデル（LLMs）の統合は、多様なデータセットにわたるゼロショット一般化を可能にする可能性を秘めた画期的な方向性として浮上している。
• 改善されたAdamやSSAの変種、軽量なネットワーク設計、カスタム損失関数といった最適化手法は、モデルの効率性と精度を向上させる上で不可欠である。
• 進展は見られるが、解釈可能性、リアルタイム推論速度、極端な気象や市場状況の変化下での未観測データへの汎化能力の面で、依然として課題が残っている。

(a) Number of publications per year.