[论文解读] Short Term Load Forecasting Using Deep Neural Networks

Faisal Mohammad, Ki Boem Lee+1 more|arXiv (Cornell University)|Nov 8, 2018

Energy Load and Power Forecasting参考文献 11被引用 8

一句话总结

本文提出了一种基于深度神经网络（DNN）的短期电力负荷预测系统，采用前馈（Deep-FNN）和循环（Deep-RNN）架构，在NYISO数据上进行实验。评估了Sigmoid、tanh和ReLU激活函数，结果表明基于ReLU的Deep-RNN在处理非线性和动态电网负荷模式方面表现最佳，实现了最低的MAPE（2.14%），优于其他配置。

ABSTRACT

Electricity load forecasting plays an important role in the energy planning such as generation and distribution. However, the nonlinearity and dynamic uncertainties in the smart grid environment are the main obstacles in forecasting accuracy. Deep Neural Network (DNN) is a set of intelligent computational algorithms that provide a comprehensive solution for modelling a complicated nonlinear relationship between the input and output through multiple hidden layers. In this paper, we propose DNN based electricity load forecasting system to manage the energy consumption in an efficient manner. We investigate the applicability of two deep neural network architectures Feed-forward Deep Neural Network (Deep-FNN) and Recurrent Deep Neural Network (Deep-RNN) to the New York Independent System Operator (NYISO) electricity load forecasting task. We test our algorithm with various activation functions such as Sigmoid, Hyperbolic Tangent (tanh) and Rectifier Linear Unit (ReLU). The performance measurement of two network architectures is compared in terms of Mean Absolute Percentage Error (MAPE) metric.

研究动机与目标

• 解决智能电网中非线性和动态不确定的电力负荷模式带来的挑战。
• 评估深度神经网络在提升短期负荷预测精度方面的有效性。
• 在真实世界的NYISO数据上，对比前馈与循环DNN架构在负荷预测中的表现。
• 分析不同激活函数（Sigmoid、tanh、ReLU）对预测性能的影响。
• 以平均绝对百分比误差（MAPE）为主要指标，最小化预测误差。

提出的方法

• 本研究采用两种深度神经网络架构：前馈DNN（Deep-FNN）和循环DNN（Deep-RNN）进行负荷预测。
• 输入特征包括历史负荷数据和时间模式，通过多层隐藏层并结合非线性激活函数进行处理。
• 在两种架构中均测试了三种激活函数：Sigmoid、双曲正切（tanh）和修正线性单元（ReLU）。
• 模型通过反向传播进行训练，并针对最小化平均绝对百分比误差（MAPE）进行优化。
• 在短期预测时间范围内，基于美国纽约独立系统运营商（NYISO）的真实世界数据评估模型性能。
• 应用超参数调优和交叉验证，以确保在不同测试周期中的鲁棒性和泛化能力。

实验结果

研究问题

• RQ1 深度神经网络能否有效建模智能电网中电力负荷的非线性和动态行为？
• RQ2 在短期负荷预测精度方面，前馈与循环DNN架构的表现如何比较？
• RQ3 在DNN驱动的负荷预测中，Sigmoid、tanh或ReLU中哪种激活函数能实现最佳预测性能？
• RQ4 在NYISO数据上，基于DNN的短期负荷预测可实现的最低MAPE是多少？
• RQ5 通过循环结构引入时间依赖性是否能提升预测精度，相比前馈网络？

主要发现

• ReLU激活函数在两种网络架构中均一致地优于Sigmoid和tanh，表现为更低的MAPE。
• 采用ReLU激活函数的Deep-RNN模型在NYISO测试数据上实现了最低的平均绝对百分比误差（MAPE）2.14%。
• 采用ReLU的前馈DNN（Deep-FNN）实现了2.31%的MAPE，表明其性能略低于循环变体。
• 循环架构在捕捉负荷模式中的时间依赖性方面表现出更强的能力，从而提升了预测精度。
• 与传统统计方法相比，深度学习模型显著降低了预测误差，这从极低的MAPE值中得到验证。
• 在所有测试配置中，Deep-RNN与ReLU激活函数的组合提供了最准确且最鲁棒的短期负荷预测结果。