[论文解读] Ensuring DNN Solution Feasibility for Optimization Problems with Convex Constraints and Its Application to DC Optimal Power Flow Problems

Tianyu Zhao, Xiang Pan+2 more|arXiv (Cornell University)|Dec 15, 2021

Energy Load and Power Forecasting被引用 9

一句话总结

本文提出一种预防性学习框架，通过在训练过程中系统校准不等式约束，以预测预测误差，从而保证具有凸约束的优化问题的深度神经网络（DNN）解的可行性。该方法无需后处理即可实现100%的可行性，并在IEEE测试系统上实现高达228倍的加速，且最优性损失低于0.19%，优于现有的DNN基线方法。

ABSTRACT

Ensuring solution feasibility is a key challenge in developing Deep Neural Network (DNN) schemes for solving constrained optimization problems, due to inherent DNN prediction errors. In this paper, we propose a ``preventive learning'' framework to guarantee DNN solution feasibility for problems with convex constraints and general objective functions without post-processing, upon satisfying a mild condition on constraint calibration. Without loss of generality, we focus on problems with only inequality constraints. We systematically calibrate inequality constraints used in DNN training, thereby anticipating prediction errors and ensuring the resulting solutions remain feasible. We characterize the calibration magnitudes and the DNN size sufficient for ensuring universal feasibility. We propose a new Adversarial-Sample Aware training algorithm to improve DNN's optimality performance without sacrificing feasibility guarantee. Overall, the framework provides two DNNs. The first one from characterizing the sufficient DNN size can guarantee universal feasibility while the other from the proposed training algorithm further improves optimality and maintains DNN's universal feasibility simultaneously. We apply the framework to develop DeepOPF+ for solving essential DC optimal power flow problems in grid operation. Simulation results over IEEE test cases show that it outperforms existing strong DNN baselines in ensuring 100% feasibility and attaining consistent optimality loss ($<$0.19%) and speedup (up to $ imes$228) in both light-load and heavy-load regimes, as compared to a state-of-the-art solver. We also apply our framework to a non-convex problem and show its performance advantage over existing schemes.

研究动机与目标

• 为解决由于固有预测误差导致的DNN在约束优化中解不可行的关键挑战。
• 开发一种框架，确保在具有凸不等式约束的问题中无需后处理即可保证可行性。
• 在保持高最优性与高速性能的同时，确保在所有输入参数区域的普遍可行性。
• 将该框架扩展至非凸问题，并展示其泛化能力。
• 将该方法应用于直流最优潮流（DC-OPF）问题，以支持实时电网运行。

提出的方法

• 通过预测与重构设计，移除非关键和线性等式约束，减少决策变量数量，同时不损失最优性。
• 通过系统性地降低约束限值，引入约束校准，以在DNN预测误差面前建立安全裕量。
• 通过启发式方法求解双层优化问题，以确定在保持可行输入区域的前提下可允许的最大校准率。
• 利用整数线性规划公式推导出足够的DNN规模，以保证普遍可行性，从而实现无需进一步训练的预训练DNN。
• 提出一种对抗样本感知训练算法，在保持可行性保证的同时提升最优性性能。
• 该框架生成两个DNN：一个确保普遍可行性的DNN（DNN-FG），另一个在不牺牲可行性的前提下提升最优性（DNN-Optimality Enhanced）。

实验结果

研究问题

• RQ1 能否保证基于DNN的凸约束优化问题解在所有输入参数下均不可行，且无需后处理？
• RQ2 在所有输入下保持可行性的前提下，可允许的最大约束校准率是多少？
• RQ3 在约束校准下，确保普遍可行性的足够DNN规模是多少？
• RQ4 能否通过对抗训练提升最优性，同时不损害可行性？
• RQ5 该框架在非凸问题及实际电力系统（如IEEE测试系统）中的表现如何？

主要发现

• DeepOPF+在所有IEEE测试系统（Case14至Case300）中均实现100%的可行性，无需后处理，优于现有DNN基线方法。
• 该方法在所有测试系统中均实现低于0.19%的最优性损失，且在轻载与重载工况下均保持一致的性能表现。
• 与最先进的迭代求解器相比，DeepOPF+实现了高达228倍的加速，其中在较大系统上的加速比范围为×115至×138。
• 保证可行性的DNN（DNN-FG）通过构造确保普遍可行性，即使未进行训练，其基础是推导出的足够DNN规模。
• 对抗样本感知训练在保持100%可行性的前提下提升了最优性表现，仿真对比结果已验证该效果。
• 该框架在非凸问题中也表现出性能优势，表明其在凸问题之外具有更广泛的应用潜力。