[论文解读] Distributional neural networks for electricity price forecasting

Grzegorz Marcjasz, Michał Narajewski+2 more|arXiv (Cornell University)|Jul 6, 2022

Energy Load and Power Forecasting参考文献 60被引用 6

一句话总结

本文提出一种分布式神经网络（DDNN），用于德国日前电力价格的概率预测，采用具有参数化输出层（正态分布或Johnson’s SU分布）的深度神经网络来建模完整的预测分布。该方法通过利用高阶矩并结合集成聚合实现稳健、可解释的概率预测，显著优于当前最先进的基准模型——包括LASSO估计回归与分位数回归平均结合的深度神经网络。

ABSTRACT

We present a novel approach to probabilistic electricity price forecasting which utilizes distributional neural networks. The model structure is based on a deep neural network that contains a so-called probability layer. The network's output is a parametric distribution with 2 (normal) or 4 (Johnson's SU) parameters. In a forecasting study involving day-ahead electricity prices in the German market, our approach significantly outperforms state-of-the-art benchmarks, including LASSO-estimated regressions and deep neural networks combined with Quantile Regression Averaging. The obtained results not only emphasize the importance of higher moments when modeling volatile electricity prices, but also -- given that probabilistic forecasting is the essence of risk management -- provide important implications for managing portfolios in the power sector.

研究动机与目标

• 开发一种简单、可解释且计算高效的概率电力价格预测方法，适用于波动性市场。
• 弥补文献中关于电力价格预测的分布式神经网络研究空白，尤其与CNN和RNN等复杂架构进行对比。
• 证明建模完整预测分布（包括高阶矩）可显著提升电力交易中的风险管理表现。
• 提供一个完全自动化、开源的预测框架，适用于其他电力市场和数据类型。

提出的方法

• 该模型使用标准的深度神经网络（多层感知机），并配备自定义输出层，用于参数化概率分布（正态分布为2个参数，Johnson’s SU分布为4个参数）。
• 网络通过连续概率评分（CRPS）作为损失函数进行端到端训练，以优化预测分布的准确性。
• 采用重复试验与滚动窗口验证相结合的超参数调优过程，以选择最优架构和输入特征。
• 通过构建多个DDNN模型的集成（DDNN-JSU-Ens）来稳定预测并提升鲁棒性，性能通过加权平均聚合。
• 该方法可从预测分布中推导出点预测（如中位数或均值），从而与现有评估框架兼容。
• 该方法基于TensorFlow和Keras实现，开源代码已发布，以支持可复现性和更广泛应用。

实验结果

研究问题

• RQ1 当与分位数回归平均结合时，具有参数化输出层的简单分布式神经网络是否能在概率电力价格预测中超越最先进的点预测模型？
• RQ2 与正态分布假设相比，通过Johnson’s SU分布建模高阶矩是否能提升在高度波动电力市场中的预测准确性？
• RQ3 所提出的DDNN方法与基准模型（如LASSO估计的自回归模型和结合分位数回归平均的深度神经网络）相比，性能如何？
• RQ4 超参数优化的变异性在多大程度上影响模型性能？集成方法是否能缓解这种不稳定性？
• RQ5 能否有效将完全自动化、可解释且计算高效的分布式神经网络应用于现实世界的电力价格预测？

主要发现

• 采用Johnson’s SU分布的DDNN（DDNN-JSU-Ens）在连续概率评分（CRPS）方面显著优于所有基准模型，证明了在波动电力价格中建模高阶矩的重要性。
• DDNN-JSU-Ens是唯一在中位数（第50百分位数）预测的平均绝对误差方面优于点神经网络集成的方法。
• 超参数优化在不同试验中结果差异显著，CRPS的样本外差异最高达10%，表明存在强烈局部最优，需依赖集成平均以稳定性能。
• 最重要的输入特征为昨日价格、当日日前负荷与可再生能源（RES）预测、前日RES预测以及近期天然气价格，而更长的滞后项则相关性较低。
• 该方法计算效率高且可解释性强，将现有点预测DNN转换为分布式模型仅需极少修改。
• 开源实现使该方法可直接应用于其他电力市场和数据集，支持在电力行业风险管理中的广泛采用。