[論文レビュー] An Evolutionary Deep Learning Method for Short-term Wind Speed Prediction: A Case Study of the Lillgrund Offshore Wind Farm

Mehdi Neshat, Meysam Majidi Nezhad+5 more|arXiv (Cornell University)|Feb 21, 2020

Energy Load and Power Forecasting参考文献 40被引用数 7

ひとこと要約

本論文は、短期的な風速予測のための長短期記憶（LSTM）ネットワークのハイパーパrameterを最適化するために、共分散行列適応進化戦略（CMA-ES）を用いたハイブリッド進化的深層学習手法、CMAES-LSTMを提案する。実際の海上風力発電所であるリルグランドのデータを用いて評価した結果、10分および1時間の予測期間において、5つのベンチマークモデルと比較して優れた精度を達成し、すべての5つの性能指標で統計的に有意な改善を示した。

ABSTRACT

Accurate short-term wind speed forecasting is essential for large-scale integration of wind power generation. However, the seasonal and stochastic characteristics of wind speed make forecasting a challenging task. This study uses a new hybrid evolutionary approach that uses a popular evolutionary search algorithm, CMA-ES, to tune the hyper-parameters of two Long short-term memory(LSTM) ANN models for wind prediction. The proposed hybrid approach is trained on data gathered from an offshore wind turbine installed in a Swedish wind farm located in the Baltic Sea. Two forecasting horizons including ten-minutes ahead (absolute short term) and one-hour ahead (short term) are considered in our experiments. Our experimental results indicate that the new approach is superior to five other applied machine learning models, i.e., polynomial neural network (PNN), feed-forward neural network (FNN), nonlinear autoregressive neural network (NAR) and adaptive neuro-fuzzy inference system (ANFIS), as measured by five performance criteria.

研究の動機と目的

• 風の確率的・非ステーションリティック・間欠的特性に起因する、正確な短期風速予測の挑戦に取り組む。
• ネットワーク構造とハイパーパrameterの最適化により、静的深層学習モデルを上回る予測性能を実現する。
• CMA-ESとLSTMを統合したハイブリッド進化的深層学習フレームワークを構築し、適応的で高精度な風速予測を実現する。
• 実世界の海上風力データを用いて提案手法を検証し、実用的関連性と頑健性を確保する。
• 従来の機械学習モデルと比較して、CMAES-LSTMモデルが短期風速予測において優位であることを示す。

提案手法

• 長短期記憶（LSTM）再帰的ニューラルネットワークと共分散行列適応進化戦略（CMA-ES）を組み合わせたハイブリッド手法を採用し、ハイパーパrameterおよびアーキテクチャ最適化を実施する。
• CMA-ESをグローバルなヒューリスティック探索アルゴリズムとして用い、学習率、バッチサイズ、最適化手法（SGD、Adam、RMSProp）、最初のLSTM層のニューロン数といった主要なLSTMハイパーパrameterを最適化する。
• 2段階のチューニングプロセスを適用：初期のグリッドサーチに続き、CMA-ESによる微調整を実施。また、過剰なトレーニング実行時間の制限を目的としたペナルティ項を導入する。
• リルグランド海上風力発電所（バルト海）で収集された歴史的風速データを用いてモデルをトレーニングおよび評価する。
• 10分および60分先の風速予測を対象としたマルチホライゾン評価フレームワークを採用する。
• RMSE、MAE、MAPE、R²、NSEの5つの標準指標を用いて性能評価を統合的に行い、モデルの精度および安定性を包括的に評価する。

実験結果

リサーチクエスチョン

• RQ1 CMA-ESは、短期風速予測の精度向上を目的としたLSTMハイパーパrameterの最適化に効果的であるか？
• RQ2 10分および1時間の予測ホライズンにおいて、CMAES-LSTMモデルは静的LSTMおよび他の機械学習モデル（PNN、FNN、NAR、ANFIS）と比較してどのように性能を発揮するか？
• RQ3 ハイブリッド進化的アプローチは、複数の評価指標において予測性能の統計的に有意な向上をもたらすか？
• RQ4 CMA-ES最適化に実行時間ペナルティを組み込むことで、精度を損なうことなくモデルの実用的効率性がどの程度向上するか？
• RQ5 本手法は、実際の海上風力データの非定常的かつ確率的な特性に起因する条件下でも、より安定的かつ頑健な予測を達成できるか？

主な発見

• CMAES-LSTMモデルは、10分予測でRMSEが2.46 m/s、1時間予測でも2.46 m/sを記録し、5つのベンチマークモデルすべてを上回った。
• 10分予測において、CMAES-LSTMモデルはMAEが1.57 m/sを記録し、他のすべてのモデルの中で最低であり、次に優れたモデル（LSTM）の1.58 m/sと比較して顕著に優れた性能を示した。
• 10分予測ではR²が0.930、1時間予測では0.928を達成し、良好なモデル適合度と予測能力を示した。
• 10分予測ではNSE（ナッシュ・サットクリフ効率）が0.928、1時間予測では0.925を記録し、優れた予測精度と安定性を確認した。
• 統計的分析により、CMAES-LSTMと他のモデルとの間の性能差は、すべての5つの評価指標で統計的に有意であることが確認された。
• CMA-ES最適化プロセスにより、トレーニング実行時間のばらつきが著しく低減され、各実行間で標準偏差がわずか0.365時間（21.9分）にまで低下した。これは、収束の頑健性と効率性を示している。