[论文解读] Pattern-based Long Short-term Memory for Mid-term Electrical Load Forecasting

Paweł Pełka, Grzegorz Dudek|arXiv (Cornell University)|Apr 22, 2020

Energy Load and Power Forecasting参考文献 27被引用 4

一句话总结

本文提出一种基于模式的长短期记忆网络（LSTM）模型，用于中期电力负荷预测，利用x-模式通过去除趋势和稳定方差来简化非线性、非平稳时间序列。混合LSTMx模型通过序列到序列LSTM预测模式，并利用指数平滑法编码变量，在为期12个月的预测周期内，对35个欧洲国家的电力负荷预测中，其准确率优于标准LSTM和经典模型。

ABSTRACT

This work presents a Long Short-Term Memory (LSTM) network for forecasting a monthly electricity demand time series with a one-year horizon. The novelty of this work is the use of pattern representation of the seasonal time series as an alternative to decomposition. Pattern representation simplifies the complex nonlinear and nonstationary time series, filtering out the trend and equalizing variance. Two types of patterns are defined: x-pattern and y-pattern. The former requires additional forecasting for the coding variables. The latter determines the coding variables from the process history. A hybrid approach based on x-patterns turned out to be more accurate than the standard LSTM approach based on a raw time series. In this combined approach an x-pattern is forecasted using a sequence-to-sequence LSTM network and the coding variables are forecasted using exponential smoothing. A simulation study performed on the monthly electricity demand time series for 35 European countries confirmed the high performance of the proposed model and its competitiveness to classical models such as ARIMA and exponential smoothing as well as the MLP neural network model.

研究动机与目标

• 通过简化复杂、非线性和非平稳时间序列，提升中期电力负荷预测的准确性。
• 通过基于模式的预处理方法，去除趋势并均衡方差，解决原始时间序列在LSTM模型中的局限性。
• 开发并评估两种模式类型——x-模式和y-模式，其中x-模式需要对编码变量进行单独预测。
• 将所提出的基于模式的LSTM模型与标准LSTM、ARIMA、指数平滑法和MLP模型进行性能比较。
• 评估模型集成对预测鲁棒性和误差降低的影响。

提出的方法

• 该方法使用x-模式，即原始时间序列的归一化季节性子序列，通过滤除趋势和稳定方差来简化预测。
• 在x-模式方法中，序列到序列LSTM网络用于预测模式序列，而指数平滑法则用于预测编码变量（如水平值和趋势），以实现重构。
• 在y-模式方法中，编码变量从上一年的模式中确定，引入了时间依赖性，使学习过程更加复杂。
• 最终预测通过将当前趋势和方差重新应用到预测的模式上，恢复原始尺度。
• 通过平均100次独立训练运行的预测结果实现模型集成，以提高鲁棒性并降低误差。
• 该模型在为期12个月的预测周期内，基于35个欧洲国家的月度电力需求数据进行评估。

实验结果

研究问题

• RQ1 基于模式的预处理能否提升LSTM模型在中期电力负荷预测中的准确性？
• RQ2 与y-模式方法相比，分离预测模式和编码变量的x-模式方法在准确性和稳定性方面表现如何？
• RQ3 结合序列到序列LSTM与指数平滑法的混合LSTMx模型，是否优于标准LSTM和经典统计模型？
• RQ4 在所提出的框架中，模型集成在多大程度上降低了预测误差并提升了鲁棒性？
• RQ5 在真实世界欧洲电力需求数据上，所提出的模型与ARIMA、指数平滑法和MLP模型相比表现如何？

主要发现

• 采用x-模式和混合预测方法的LSTMx模型，在所有LSTM变体中取得了最低的MAPE（4.99%），优于标准LSTM和LSTMy模型。
• LSTMx集成模型将中位数APE降低至3.01%，MAPE降低至4.99%，通过100次独立训练运行的平均，显著降低了误差。
• 在国家特定的预测中，使用集成的LSTMx模型在波兰实现了1.79%的MAPE，在德国实现了1.60%的MAPE，优于其他模型。
• LSTMy模型表现劣于LSTMx，原因在于编码变量估计延迟，破坏了时间序列结构并增加了预测误差。
• 所提出的基于模式的方法显著提升了LSTM性能，通过将底层时间序列简化为更规则、归一化的季节性模式。
• 结果表明，LSTMx模型在性能上可与指数平滑法和MLP等经典模型相媲美，尤其在下半年表现提升最为显著。