[論文レビュー] Neural networks in day-ahead electricity price forecasting: Single vs. multiple outputs

Grzegorz Marcjasz, Jesus Lago+1 more|arXiv (Cornell University)|Aug 18, 2020

Energy Load and Power Forecasting参考文献 22被引用数 4

ひとこと要約

本稿では、5か国のヨーロッパ電力市場における1日先電力価格予測において、単出力と多出力の深層ニューラルネットワークを比較している。多出力DNNは、一般化性能が高く、過学習が少ないことに加え、計算効率も優れているため、単出力モデルを著しく上回っており、このような予測タスクにおいて推奨される手法であることが示された。

ABSTRACT

Recent advancements in the fields of artificial intelligence and machine learning methods resulted in a significant increase of their popularity in the literature, including electricity price forecasting. Said methods cover a very broad spectrum, from decision trees, through random forests to various artificial neural network models and hybrid approaches. In electricity price forecasting, neural networks are the most popular machine learning method as they provide a non-linear counterpart for well-tested linear regression models. Their application, however, is not straightforward, with multiple implementation factors to consider. One of such factors is the network's structure. This paper provides a comprehensive comparison of two most common structures when using the deep neural networks -- one that focuses on each hour of the day separately, and one that reflects the daily auction structure and models vectors of the prices. The results show a significant accuracy advantage of using the latter, confirmed on data from five distinct power exchanges.

研究の動機と目的

• 1日先電力価格予測における単出力と多出力の深層ニューラルネットワークアーキテクチャの性能差を評価すること。
• 24時間分の独立した単時刻モデルと比較して、多出力モデルが過学習を軽減し、一般化性能を向上させるかどうかを評価すること。
• LASSO正則化を施した線形でパラメータが豊富な最新のLEARNモデルと比較して、深層ニューラルネットワークの予測精度を評価すること。
• 両モデル構造間での計算効率とハイパーパrameterの複雑さを比較すること。

提案手法

• 本研究では、2種類のアーキテクチャを持つ深層ニューラルネットワーク（DNN）を採用している：1つは24時間分の各時間帯の価格を別々に予測するもの（DNN 1）、もう1つは24時間分を一度にベクトルとして予測するもの（DNN 24）。
• ハイパーパrameter最適化にはグリッドサーチを用い、過学習を軽減するためのエアリー・ストッピングとドロップアウトを適用している。
• モデルは、ノルト・プール、PJM、EPEX-BE、EPEX-FR、EPEX-DEの5つのオープンアクセスの1日先電力市場データセットを用いて学習・評価しており、それぞれ6年分の時間分解能1時間のデータが含まれる。
• 性能評価には相対的平均絶対誤差（rMAE）を用い、統計的有意性はGiacomini-White条件的予測能力（CPA）検定により評価している。
• 最新の性能を示すベンチマークとして、LASSO正則化を施した特徴選択を内蔵する線形モデルであるLEARモデルを用いている。
• 予測性能の多変量評価にはGiacomini-White CPA検定を用い、あるモデルの予測が他より統計的に優れているかどうかを検証している。

実験結果

リサーチクエスチョン

• RQ1 多出力の深層ニューラルネットワークアーキテクチャは、多様なヨーロッパ市場における1日先電力価格予測で、単出力アーキテクチャを上回る性能を示すか？
• RQ2 24時間分の独立した単時刻モデルと比較して、多出力構造は過学習をどの程度軽減するか？
• RQ3 rMAEと統計的有意性の観点から、多出力DNNの予測精度は最新のLEARNモデルと比べてどの程度優れているか？
• RQ4 24個の別個の単出力モデルを学習するのと比較して、多出力DNNは計算的により効率的か？
• RQ5 多出力DNNの予測的優位性は、異なる市場構造や価格ダイナミクスの下でも一貫しているか？

主な発見

• 多出力DNN（DNN 24）は、単出力DNN（DNN 1）を著しく上回る予測精度を示し、ピーク時間帯では特に顕著である。DNN 1は正則化を施しても過学習の問題を示している。
• 5つのデータセットすべてにおいて、DNN 24はrMAEがDNN 1より低く、一部の市場ではDNN 1がナーブなベンチマークを下回っている（時間4で）。
• Giacomini-White CPA検定において、DNN 24は他のいかなるモデルよりも劣っていない。これは、5か国すべての市場で統計的に顕著な優位性を示していることを意味する。
• LEARモデルはノルト・プール、PJM、EPEX-BEではDNN 1と同等の性能を示したが、5か国中4か国のデータセットにおいて、朝と夕方のピーク時間帯でDNN 24に劣っていた。
• 多出力DNNは計算的にもより効率的であり、1セットのハイパーパrameter設定で十分で、24個の別個の単出力モデルを学習するよりもはるかに高速に学習が可能である。
• ベクトル化された出力構造により、時間帯間で共有される表現学習が可能となり、専用の単時刻モデルに内在する過学習リスクが低減される。