[论文解读] A Convex Neural Network Solver for DCOPF with Generalization Guarantees

Ling Zhang, Yize Chen+1 more|arXiv (Cornell University)|Sep 18, 2020

Power System Optimization and Stability参考文献 35被引用 5

一句话总结

本文提出了一种用于DCOPF的凸神经网络求解器，通过将输入凸神经网络（ICNNs）与基于KKT条件的训练损失相结合，实现了可证明的泛化能力。通过在网络架构中强制实现凸性，并在训练过程中最小化KKT违反情况，该方法在未见输入区域上的最优性比率提升了5倍，且不可行性显著降低，优于端到端模型。

ABSTRACT

The DC optimal power flow (DCOPF) problem is a fundamental problem in power systems operations and planning. With high penetration of uncertain renewable resources in power systems, DCOPF needs to be solved repeatedly for a large amount of scenarios, which can be computationally challenging. As an alternative to iterative solvers, neural networks are often trained and used to solve DCOPF. These approaches can offer orders of magnitude reduction in computational time, but they cannot guarantee generalization, and small training error does not imply small testing errors. In this work, we propose a novel algorithm for solving DCOPF that guarantees the generalization performance. First, by utilizing the convexity of DCOPF problem, we train an input convex neural network. Second, we construct the training loss based on KKT optimality conditions. By combining these two techniques, the trained model has provable generalization properties, where small training error implies small testing errors. In experiments, our algorithm improves the optimality ratio of the solutions by a factor of five in comparison to end-to-end models.

研究动机与目标

• 解决基于深度学习的DCOPF求解器缺乏泛化保证的问题，这些求解器尽管在训练误差上表现良好，但在未见场景下常会失效。
• 通过利用DCOPF的结构性质（如凸性和KKT条件），克服高维负荷空间的挑战。
• 开发一种机器学习框架，确保小的训练误差意味着小的测试误差，即使测试数据位于训练分布之外。
• 提升神经网络代理模型在可再生能源不确定性下的实时电力系统运行中的鲁棒性和可靠性。
• 通过将KKT条件作为正则化项引入，实现在训练中使用未标记数据，减少对昂贵标注场景的依赖。

提出的方法

• 使用输入凸神经网络（ICNNs）在从负荷到最优出力的映射中强制实现凸性，确保模型输出继承真实DCOPF目标函数的凸结构。
• 构建一个结合最优出力值回归损失与KKT违反损失的训练损失函数，通过惩罚最优性条件的偏离来优化模型。
• 将KKT损失表述为一组由对偶变量（节点边际电价LMPs）及其与价值函数梯度关系导出的偏微分方程。
• 通过在未标记点上最小化基于KKT的损失，使用标注数据（具有已知最优解）和未标记数据（仅提供负荷值）联合训练模型。
• 引入一组来自训练中未覆盖区域的辅助未标记样本，以提升对未见输入分布的泛化能力。
• 利用凸问题中KKT条件为最优性的充要条件这一事实，确保最小化KKT违反可获得全局最优解。

实验结果

研究问题

• RQ1 能否设计一种DCOPF神经网络求解器，以保证泛化能力，使得低训练误差意味着低测试误差？
• RQ2 如何将DCOPF问题的凸结构嵌入神经网络架构中，以提升泛化能力？
• RQ3 KKT条件能否作为训练中的正则化机制，以提升在未见数据上的性能，而无需依赖标注样本？
• RQ4 在多大程度上可利用未标记数据来提升DCOPF代理模型的鲁棒性？
• RQ5 在分布外测试样本上，该方法与端到端神经网络相比，在最优性和可行性方面表现如何？

主要发现

• 当使用辅助样本时，该方法在未见区域的测试数据上实现了97.24%的最优性比率，而端到端模型仅为5.52%。
• 即使不使用辅助样本，该方法仍保持62.25%的最优性比率，显著优于端到端模型无法生成可行解的表现。
• 该方法在发电机和线路潮流限制上的可行性比率超过97%，在节点功率平衡约束上超过90%，即使在未见数据上亦如此。
• 与端到端模型相比，该方法将不可行性比率降低了整整一个数量级，展现出强大的鲁棒性。
• KKT增强损失的使用使模型能够很好地泛化到不同的约束激活模式，即使训练数据未覆盖整个输入空间。
• 理论分析表明，网络架构的凸性确保了在整个输入区域上，小的训练误差意味着小的测试误差，而不仅限于采样点。