[論文レビュー] Spatiotemporal Attention Networks for Wind Power Forecasting

Xingbo Fu, Feng Gao+3 more|arXiv (Cornell University)|Sep 14, 2019

Energy Load and Power Forecasting参考文献 16被引用数 4

ひとこと要約

本論文は、風力発電予測のための時空間アテンションネットワーク（STAN）を提案する。このモデルは、風力発電所間の非ユークリッド空間的相関をモデル化するためのマルチヘッド自己アテンションと、時間的依存性を捉えるためにグローバルアテンションを備えたシーケンス・ツー・シーケンス（Seq2Seq）モデルを組み合わせる。フレームワークは、ベースライン手法と比較して優れた予測精度を達成しており、風力発電データにおける複雑な時空間パターンをモデル化する際にアテンションメカニズムの有効性を示している。

ABSTRACT

Wind power is one of the most important renewable energy sources and accurate wind power forecasting is very significant for reliable and economic power system operation and control strategies. This paper proposes a novel framework with spatiotemporal attention networks (STAN) for wind power forecasting. This model captures spatial correlations among wind farms and temporal dependencies of wind power time series. First of all, we employ a multi-head self-attention mechanism to extract spatial correlations among wind farms. Then, temporal dependencies are captured by the Sequence-to-Sequence (Seq2Seq) model with a global attention mechanism. Finally, experimental results demonstrate that our model achieves better performance than other baseline approaches. Our work provides useful insights to capture non-Euclidean spatial correlations.

研究の動機と目的

• 風力発電所データにおける複雑な時空間的依存関係をモデル化することで、風力発電予測の精度を向上させること。
• 地理的に分散した風力発電所間の非ユークリッド空間的相関を捉える課題に対処すること。
• 時間的シーケンスモデリングと空間的アテンションを統合することで、予測性能を向上させること。
• 再生可能エネルギー予測に適したスケーラブルで効果的なディープラーニングフレームワークを提供すること。

提案手法

• 風力発電所を非ユークリッドグラフ上のノードとみなして、空間的相関をモデル化するためのマルチヘッド自己アテンションを採用する。
• グローバルアテンションを備えたシーケンス・ツー・シーケンス（Seq2Seq）アーキテクチャを用いて、風力発電時系列における長期的時間的依存性をモデル化する。
• 空間的および時間的モデリング部を統合したエンド・ツー・エンドで学習可能な統一フレームワークに統合する。
• 予測過程において、異なる風力発電所や時間ステップの重要度を動的に重みづけるためにアテンションメカニズムを活用する。
• 空間的および時間的ラベルを備えた複数の風力発電所からの風力発電データを用いてモデルを学習する。

実験結果

リサーチクエスチョン

• RQ1 自己アテンションメカニズムは、地理的に分散した風力発電所間の非ユークリッド空間的関係を効果的にモデル化できるか？
• RQ2 グローバルアテンションを備えたSeq2Seqモデルは、風力発電時系列における長距離時間的依存性をどれほど効果的に捉えられるか？
• RQ3 空間的および時間的アテンションを統合することで、単独のモデルと比較して予測精度が向上するか？
• RQ4 提案されたSTANフレームワークは、風力発電予測タスクにおいて従来のベースライン手法と比較してどのように差をつけるか？

主な発見

• STANモデルは、従来の機械学習およびディープラーニング手法を含む複数のベースラインモデルと比較して、より優れた予測性能を達成した。
• マルチヘッド自己アテンションを用いた空間モデリングの統合により、複雑な発電所間関係を捉えることで、精度が顕著に向上した。
• グローバルアテンションを備えたSeq2Seqモデルは、風力発電時系列における長期的時間的パターンを効果的にモデル化できた。
• アブレーションスタディの結果、空間的および時間的アテンションの両方のコンponentが、全体の性能向上に有意に寄与していることが確認された。