[論文レビュー] Short Term Load Forecasting Using Deep Neural Networks

Faisal Mohammad, Ki Boem Lee+1 more|arXiv (Cornell University)|Nov 8, 2018

Energy Load and Power Forecasting参考文献 11被引用数 8

ひとこと要約

本論文は、NYISOデータを用いた深層ニューラルネットワーク（DNN）ベースの短期電力負荷予測システムを提案する。フィードフォワード（Deep-FNN）および再帰的（Deep-RNN）アーキテクチャを用い、Sigmoid、tanh、ReLUの活性化関数を評価した結果、ReLUを用いたDeep-RNNが2.14%という最低のMAPEを達成し、非線形的かつ動的なグリッド負荷パターンの処理において他の設定を上回った。

ABSTRACT

Electricity load forecasting plays an important role in the energy planning such as generation and distribution. However, the nonlinearity and dynamic uncertainties in the smart grid environment are the main obstacles in forecasting accuracy. Deep Neural Network (DNN) is a set of intelligent computational algorithms that provide a comprehensive solution for modelling a complicated nonlinear relationship between the input and output through multiple hidden layers. In this paper, we propose DNN based electricity load forecasting system to manage the energy consumption in an efficient manner. We investigate the applicability of two deep neural network architectures Feed-forward Deep Neural Network (Deep-FNN) and Recurrent Deep Neural Network (Deep-RNN) to the New York Independent System Operator (NYISO) electricity load forecasting task. We test our algorithm with various activation functions such as Sigmoid, Hyperbolic Tangent (tanh) and Rectifier Linear Unit (ReLU). The performance measurement of two network architectures is compared in terms of Mean Absolute Percentage Error (MAPE) metric.

研究の動機と目的

• スマートグリッドにおける非線形的かつ動的かつ不確実な電力負荷パターンの課題に対処すること。
• 深層ニューラルネットワークが短期負荷予測の精度を向上させる有効性を評価すること。
• 実世界のNYISOデータにおける負荷予測において、フィードフォワードと再帰的DNNアーキテクチャの比較を行うこと。
• 異なる活性化関数（Sigmoid、tanh、ReLU）が予測性能に与える影響を分析すること。
• Mean Absolute Percentage Error（MAPE）を主な指標として、予測誤差を最小化すること。

提案手法

• 本研究では、負荷予測に向けた2つの深層ニューラルネットワークアーキテクチャ、すなわちフィードフォワードDNN（Deep-FNN）と再帰的DNN（Deep-RNN）を採用した。
• 入力特徴量には、歴史的負荷データと時間的パターンが含まれ、非線形活性化関数を介した複数の隠れ層を経由して処理された。
• 両アーキテクチャでテストされた3つの活性化関数として、Sigmoid、双曲正接（tanh）、および整流線形ユニット（ReLU）が用いられた。
• モデルはバックプロパゲーションを用いて学習され、Mean Absolute Percentage Error（MAPE）を最小化するように最適化された。
• 性能評価は、短期予測期間における米国ニューヨーク独立系システムオペレーター（NYISO）の実世界データを対象として実施された。
• 妥当性と汎化性能を確保するため、ハイパーパramータチューニングと交差検証が適用された。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークは、スマートグリッドにおける電力負荷の非線形的かつ動的な挙動を効果的にモデル化できるか？
• RQ2 フィードフォワードと再帰的DNNアーキテクチャは、短期負荷予測精度においてどのように比較されるか？
• RQ3 Sigmoid、tanh、ReLUの中では、どの活性化関数がDNNベースの負荷予測において最も優れた性能を発揮するか？
• RQ4 DNNベースの短期負荷予測におけるNYISOデータのMAPEの最小値はどの程度達成可能か？
• RQ5 再帰構造による時間的依存性の組み込みは、フィードフォワードネットワークと比較して予測精度を向上させるか？

主な発見

• ReLU活性化関数は、両アーキテクチャにおいてSigmoidおよびtanhと比較して一貫してMAPEの観点で優れた性能を示した。
• ReLU活性化関数を備えたDeep-RNNモデルは、NYISOテストデータにおいて最低の平均絶対パーセンテージ誤差（MAPE）2.14%を達成した。
• ReLUを用いたフィードフォワードDNN（Deep-FNN）はMAPEが2.31%であったため、再帰的バージョンに比べてわずかに性能が低かった。
• 再帰的アーキテクチャは、負荷パターンにおける時間的依存性を捉える能力に優れており、予測精度の向上に寄与した。
• 従来の統計的手法と比較して、深層学習モデルの導入により予測誤差が顕著に低減されたことが、低いMAPE値から明らかになった。
• 全テスト設定の中で、Deep-RNNとReLU活性化関数の組み合わせが、最も正確かつ頑健な短期負荷予測を実現した。