[论文解读] Short-Term Electricity-Load Forecasting by Deep Learning: A Comprehensive Survey

Qi Dong, Rubing Huang+5 more|arXiv (Cornell University)|Aug 29, 2024

Energy Load and Power Forecasting被引用 4

一句话总结

本篇全面综述回顾了过去十年中深度学习在短期电力负荷预测（STELF）中的应用，分析了数据预处理、特征提取、深度学习模型、优化方法及评估指标。文章识别出关键趋势、挑战与未来方向，包括图神经网络、图像修复技术以及大语言模型（LLMs），为提升复杂非线性电力系统中预测精度与模型泛化能力提供了系统性框架。

ABSTRACT

Short-Term Electricity-Load Forecasting (STELF) refers to the prediction of the immediate demand (in the next few hours to several days) for the power system. Various external factors, such as weather changes and the emergence of new electricity consumption scenarios, can impact electricity demand, causing load data to fluctuate and become non-linear, which increases the complexity and difficulty of STELF. In the past decade, deep learning has been applied to STELF, modeling and predicting electricity demand with high accuracy, and contributing significantly to the development of STELF. This paper provides a comprehensive survey on deep-learning-based STELF over the past ten years. It examines the entire forecasting process, including data pre-processing, feature extraction, deep-learning modeling and optimization, and results evaluation. This paper also identifies some research challenges and potential research directions to be further investigated in future work.

研究动机与目标

• 提供过去十年中深度学习在短期电力负荷预测（STELF）应用中的系统性与全面性综述。
• 分析STELF全流程，包括数据预处理、特征工程、深度学习建模、优化方法及评估指标。
• 识别由于天气、季节性及智能电网数据激增导致的非线性、波动性与复杂负荷数据处理中的持续挑战。
• 探索新兴研究方向，如基于图的模型、图像处理技术以及大语言模型（LLMs），以提升预测泛化能力与零样本学习能力。
• 通过总结基于深度学习的STELF的最先进技术、发展趋势与开放问题，为研究人员和从业者提供指导。

提出的方法

• 使用关键词在六个主要数据库中开展系统性文献回顾，随后进行人工筛选以确保全面性与相关性。
• 围绕实际STELF工作流程组织综述：数据收集、预处理、特征工程、深度学习模型选择（如DNN、RNN、CNN、Transformer）、优化与评估。
• 对数据预处理技术（如归一化、异常值处理）、特征提取方法（如天气、时间与日历特征）及模型架构进行分类与分析。
• 评估优化策略，包括损失函数设计、超参数调优及先进优化器（如Adam、SSA变体），特别关注计算效率。
• 探索新兴技术，如用于时空建模的图神经网络，以及受图像修复启发的方法，将负荷预测视为缺失数据生成任务。
• 研究大语言模型（LLMs）在零样本与少样本预测中的潜力，利用其少样本泛化与上下文推理能力。

Figure 1 . The structure of this survey paper.

实验结果

研究问题

• RQ1 在短期电力负荷预测（STELF）中，主流的深度学习架构有哪些？它们在过去十年中如何演变？
• RQ2 数据预处理与特征工程技术如何影响深度学习模型在STELF中的性能与鲁棒性？
• RQ3 由于天气与季节性等外部因素影响，建模非线性、波动性与复杂电力负荷模式的关键挑战是什么？
• RQ4 图神经网络与受图像处理启发的方法（如图像修复）如何被适配以提升STELF中的时空表征学习能力？
• RQ5 大语言模型（LLMs）在实现电力负荷预测中的零样本或少样本泛化方面可能发挥什么作用？其潜在优势与局限性是什么？

主要发现

• 深度学习模型，特别是RNN、CNN与Transformer，显著优于传统统计与机器学习方法，在处理非线性与波动性负荷模式方面表现突出。
• 图神经网络（GNNs）在建模多个母线或区域之间的空间依赖关系方面展现出潜力，尤其在与时间建模结合时。
• 基于图像的预测技术——将负荷序列视为图像，未来值视为缺失区域——为序列预测提供了新颖方法，灵感源自图像修复。
• 将大语言模型（LLMs）整合到时间序列预测中正成为一种变革性方向，有望实现在多样化数据集间的零样本泛化。
• 优化技术如改进的Adam与SSA变体，结合轻量化网络设计与定制化损失函数，对提升模型效率与精度至关重要。
• 尽管已有进展，模型可解释性、实时推理速度以及在极端天气或市场条件变化下对未见数据的泛化能力仍面临挑战。

(a) Number of publications per year.