[論文レビュー] Short-term Load Forecasting with Dense Average Network

Zhifang Liao, Haihui Pan+4 more|arXiv (Cornell University)|Dec 8, 2019

Energy Load and Power Forecasting被引用数 7

ひとこと要約

本稿では、短期電力負荷予測のための新規な密度平均ネットワーク（DAN）を提案する。密度平均接続を導入し、すべての先行層の出力を集約することで特徴抽出を強化する。モデルは公開データセットで優れた精度を達成し、入力の摂動に対しても頑健性を示し、アンサンブル統合によって既存手法を上回る性能を発揮する。

ABSTRACT

As an important part of the power system, power load forecasting directly affects the national economy. The data shows that improving the load forecasting accuracy by 0.01% can save millions of dollars for the power industry. Therefore, improving the accuracy of power load forecasting has always been the pursuing goals for a power system. Based on this goal, this paper proposes a novel connection, the dense average connection, in which the outputs of all preceding layers are averaged as the input of the next layer in a feed-forward fashion. Based on dense average connection , we construct the dense average network for power load forecasting. The predictions of the proposed model for two public datasets are better than those of existing methods. On this basis, we use the ensemble method to further improve the accuracy of the model. To verify the reliability of the model predictions, the robustness is analyzed and verified by adding input disturbances. The experimental results show that the proposed model is effective and robust for power load forecasting.

研究の動機と目的

• 短期電力負荷予測の精度を向上させること。これは、国家経済的コスト削減に直接影響を与える。
• 既存のディープラーニングモデルが負荷データ内の複雑な時間的パターンを捉えることの限界を解決すること。
• すべての前の層の出力の平均を用いることで特徴表現を向上させる、新規なニューラルネットワークアーキテクチャ—密度平均ネットワーク（DAN）を考案すること。
• 入力ノイズや摂動下でのモデルの頑健性を検証すること。
• ベンチマークデータセット上でアンサンブル学習を用いて最先端の性能を達成すること。

提案手法

• 各後続層への入力を、フィードフォワード形式で、すべての先行層出力の平均とする、密度平均接続を提案する。
• これらの接続を積み重ねることで、勾配の流れを改善し、特徴の再利用を促進する、密度平均ネットワーク（DAN）を構築する。
• 複数のDANモデルを組み合わせるアンサンブル手法を採用し、さらに予測精度を向上させる。
• 入力の摂動を適用してモデルの頑健性を評価し、実世界のデータノイズや異常を模擬する。
• 標準的なディープラーニング最適化手法を用いて、2つの公開短期負荷予測データセット上でモデルをエンドツーエンドで学習する。
• MAE や RMSE などの標準評価指標を用い、既存手法と性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 新規な密度平均接続メカニズムは、短期負荷予測における特徴表現を改善できるか？
• RQ2 提案された密度平均ネットワークは、既存のディープラーニングモデルよりも高い予測精度を達成できるか？
• RQ3 DANモデルのアンサンブルは、予測性能と頑健性にどのように影響を与えるか？
• RQ4 入力摂動やノイズデータに対して、モデルはどの程度頑健であるか？
• RQ5 提案されたアーキテクチャは、異なる公開負荷予測データセットに対して効果的に一般化できるか？

主な発見

• 提案された密度平均ネットワークは、2つの公開短期負荷予測データセットで、既存手法を上回る予測性能を達成した。
• DANモデルのアンサンブルはさらに精度を向上させ、この文脈におけるモデル平均化の有効性を示した。
• モデルは強い頑健性を示し、入力摂動が加えられても安定した性能を維持した。
• 密度平均接続メカニズムは特徴学習と勾配の流れを向上させ、収束性と精度の向上に寄与した。
• 結果から、予測精度が0.01%向上するだけで、電力産業における顕著なコスト削減が達成可能であることが確認された。
• モデルのアーキテクチャは、異なるデータセットにおいても有効であり、一般化能力を示した。