[論文レビュー] Deep Belief Networks Based Feature Generation and Regression for Predicting Wind Power

Asifullah Khan, Aneela Zameer+2 more|arXiv (Cornell University)|Jul 31, 2018

Energy Load and Power Forecasting参考文献 32被引用数 11

ひとこと要約

本稿では、気象データから階層的特徴を抽出するために制限ボルツマンマシン（RBM）を用いた教師なし事前学習を活用する、深層信念ネットワーク（DBN）に基づく風力発電予測モデルを提案する。その後に回帰層を配置して短期的な風力発電予測を実行する。DBN-WPモデルは、平均RMSEが0.124、MAEが0.083、SDEが0.122を達成し、ハイブリッド手法や複雑な学習手法と比較して、異なる風力発電所の位置において優れた汎化性能と安定性を示している。

ABSTRACT

Wind energy forecasting helps to manage power production, and hence, reduces energy cost. Deep Neural Networks (DNN) mimics hierarchical learning in the human brain and thus possesses hierarchical, distributed, and multi-task learning capabilities. Based on aforementioned characteristics, we report Deep Belief Network (DBN) based forecast engine for wind power prediction because of its good generalization and unsupervised pre-training attributes. The proposed DBN-WP forecast engine, which exhibits stochastic feature generation capabilities and is composed of multiple Restricted Boltzmann Machines, generates suitable features for wind power prediction using atmospheric properties as input. DBN-WP, due to its unsupervised pre-training of RBM layers and generalization capabilities, is able to learn the fluctuations in the meteorological properties and thus is able to perform effective mapping of the wind power. In the deep network, a regression layer is appended at the end to predict sort-term wind power. It is experimentally shown that the deep learning and unsupervised pre-training capabilities of DBN based model has comparable and in some cases better results than hybrid and complex learning techniques proposed for wind power prediction. The proposed prediction system based on DBN, achieves mean values of RMSE, MAE and SDE as 0.124, 0.083 and 0.122, respectively. Statistical analysis of several independent executions of the proposed DBN-WP wind power prediction system demonstrates the stability of the system. The proposed DBN-WP architecture is easy to implement and offers generalization as regards the change in location of the wind farm is concerned.

研究の動機と目的

• 気象データにおける複雑で非線形的な関係を捉えるためにディープラーニングを活用し、風力発電予測の精度を向上させること。
• 風力発電予測におけるラベル付きデータの限界を補うために、RBMを用いた教師なし事前学習を採用すること。
• 異なる風力発電所のサイトにおいても性能を維持できる汎用的で場所に頑健な予測モデルを開発すること。
• DBNに基づく特徴生成と回帰の有効性を、既存のハイブリッド手法や複雑な学習手法と比較して評価すること。

提案手法

• モデルは、風速、気温、気圧などの大気の入力特徴から階層的表現を学習するために、スタックされた制限ボルツマンマシン（RBM）を用いて教師なし事前学習を実施する。
• 事前学習の後、学習済み特徴を回帰に適応させるためにバックプロパゲーションを用いて微調整を行う。
• 深層アーキテクチャの最終段階に回帰層を追加し、短期的な風力発電出力予測を実行する。
• 気象変数の変動を捉えるために確率的特徴生成を活用し、多様な条件下での一般化能力を向上させる。
• 全体のアーキテクチャをエンドツーエンドで学習させ、深層階層的学習と強力な特徴抽象化の利点を統合する。

実験結果

リサーチクエスチョン

• RQ1 DBNベースのモデルは、風力発電予測のための生データから意味のある特徴を効果的に抽出できるか？
• RQ2 DBN-WPモデルの性能は、ハイブリッド手法や複雑な学習手法と比較して、予測精度と安定性の観点でどのように異なるか？
• RQ3 RBMを用いた教師なし事前学習は、異なる風力発電所の位置にわたる一般化性能をどの程度向上させるか？
• RQ4 提案されたDBN-WPモデルは、複数回の独立した実行において一貫した性能を維持するか？

主な発見

• DBN-WPモデルは複数回のテスト実行において、平均RMSEが0.124、MAEが0.083、SDEが0.122を達成し、高い予測精度を示している。
• 統計的分析により、複数回の独立した実行においても一貫した性能が確認され、システムの安定性が裏付けられている。
• モデルは強力な一般化能力を示し、再トレーニングなしで異なる風力発電所の場所に適用しても効果を維持している。
• RBM層の教師なし事前学習により特徴学習が著しく向上し、従来手法と比較して性能が向上している。
• DBN-WPモデルは、精度と安定性の両面で、より複雑なハイブリッド学習手法と同等またはそれを上回る性能を示している。