[论文解读] Deep Belief Networks Based Feature Generation and Regression for Predicting Wind Power

Asifullah Khan, Aneela Zameer+2 more|arXiv (Cornell University)|Jul 31, 2018

Energy Load and Power Forecasting参考文献 32被引用 11

一句话总结

本文提出了一种基于深度置信网络（DBN）的风力发电预测模型，利用受限玻尔兹曼机（RBMs）的无监督预训练来从气象数据中提取分层特征，随后通过回归层实现短期风力发电预测。DBN-WP 模型在不同风电场位置的预测中均表现出优越的泛化能力和稳定性，平均 RMSE 为 0.124，MAE 为 0.083，SDE 为 0.122，优于混合型和复杂学习技术。

ABSTRACT

Wind energy forecasting helps to manage power production, and hence, reduces energy cost. Deep Neural Networks (DNN) mimics hierarchical learning in the human brain and thus possesses hierarchical, distributed, and multi-task learning capabilities. Based on aforementioned characteristics, we report Deep Belief Network (DBN) based forecast engine for wind power prediction because of its good generalization and unsupervised pre-training attributes. The proposed DBN-WP forecast engine, which exhibits stochastic feature generation capabilities and is composed of multiple Restricted Boltzmann Machines, generates suitable features for wind power prediction using atmospheric properties as input. DBN-WP, due to its unsupervised pre-training of RBM layers and generalization capabilities, is able to learn the fluctuations in the meteorological properties and thus is able to perform effective mapping of the wind power. In the deep network, a regression layer is appended at the end to predict sort-term wind power. It is experimentally shown that the deep learning and unsupervised pre-training capabilities of DBN based model has comparable and in some cases better results than hybrid and complex learning techniques proposed for wind power prediction. The proposed prediction system based on DBN, achieves mean values of RMSE, MAE and SDE as 0.124, 0.083 and 0.122, respectively. Statistical analysis of several independent executions of the proposed DBN-WP wind power prediction system demonstrates the stability of the system. The proposed DBN-WP architecture is easy to implement and offers generalization as regards the change in location of the wind farm is concerned.

研究动机与目标

• 通过利用深度学习捕捉气象数据中的复杂非线性关系，提升风力发电预测的准确性。
• 通过使用 RBMs 的无监督预训练，解决风力发电预测中标签数据有限的挑战。
• 开发一种可泛化、对位置不敏感的预测模型，确保在不同风电场站点均保持性能表现。
• 评估基于 DBN 的特征生成与回归方法相较于现有混合型和复杂学习技术的有效性。

提出的方法

• 该模型采用一系列受限玻尔兹曼机（RBMs）进行无监督预训练，以从风速、温度、气压等大气输入特征中学习分层表征。
• 预训练完成后，通过反向传播对 DBN 进行微调，以适应所学特征的回归任务。
• 在深度架构的末端添加一个最终的回归层，用于预测短期风力发电输出。
• 模型采用随机特征生成方法，以捕捉气象变量的波动性，从而增强其在多样化条件下的泛化能力。
• 整个架构采用端到端训练，结合了深度分层学习与鲁棒特征抽象的优势。

实验结果

研究问题

• RQ1 基于 DBN 的模型能否有效从原始大气数据中提取对风力发电预测有意义的特征？
• RQ2 DBN-WP 模型在预测准确性和稳定性方面与混合型和复杂学习技术相比表现如何？
• RQ3 使用 RBMs 进行无监督预训练在多大程度上提升了模型在不同风电场位置的泛化能力？
• RQ4 所提出的 DBN-WP 模型在多次独立运行中是否能保持一致的性能表现？

主要发现

• DBN-WP 模型在多次测试运行中实现了平均 RMSE 为 0.124，MAE 为 0.083，SDE 为 0.122，表明预测精度较高。
• 统计分析证实系统具有稳定性，多个独立运行中表现一致。
• 该模型展现出强大的泛化能力，在无需微调的情况下应用于不同风电场位置时仍保持有效性。
• RBMs 层的无监督预训练显著增强了特征学习，使性能优于传统方法。
• DBN-WP 模型在准确性和稳定性方面优于或至少匹配更复杂的混合学习技术。