[论文解读] Learning to Solve Network Flow Problems via Neural Decoding

Yize Chen, Baosen Zhang|arXiv (Cornell University)|Feb 10, 2020

Neural Networks and Applications参考文献 31被引用 28

一句话总结

该论文提出了一种神经解码框架，通过使用神经网络从输入负荷分布中预测对偶变量，再利用KKT条件将这些变量解码为活跃约束，从而加速求解大规模网络流问题。该方法在保持高可行性与最优性的同时，相比最先进求解器实现了超过10倍的速度提升，在各类测试案例中均优于其他基于学习的方法，在速度与解的质量方面表现更优。

ABSTRACT

Many decision-making problems in engineering applications such as transportation, power system and operations research require repeatedly solving large-scale linear programming problems with a large number of different inputs. For example, in energy systems with high levels of uncertain renewable resources, tens of thousands of scenarios may need to be solved every few minutes. Standard iterative algorithms for linear network flow problems, even though highly efficient, becomes a bottleneck in these applications. In this work, we propose a novel learning approach to accelerate the solving process. By leveraging the rich theory and economic interpretations of LP duality, we interpret the output of the neural network as a noisy codeword, where the codebook is given by the optimization problem's KKT conditions. We propose a feedforward decoding strategy that finds the optimal set of active constraints. This design is error correcting and can offer orders of magnitude speedup compared to current state-of-the-art iterative solvers, while providing much better solutions in terms of feasibility and optimality compared to end-to-end learning approaches.

研究动机与目标

• 为解决在高可再生能源不确定性下电力系统等实时应用中反复求解大规模线性规划（LP）问题所面临的计算瓶颈。
• 克服端到端神经学习在优化中常因无法满足约束或在大规模网络上泛化能力差而带来的局限性。
• 开发一种基于学习的代理模型，利用LP的对偶理论，实现快速、准确且可行的求解。
• 设计一种对噪声神经输出具有鲁棒性的解码机制，通过利用KKT条件的结构特性。

提出的方法

• 训练一个前馈神经网络，根据每个节点的净负荷分布预测最优代价。
• 计算预测代价相对于净负荷的梯度，将其解释为对偶变量（拉格朗日乘子）的估计。
• 将该梯度视为含噪声的码字，并通过基于KKT的策略进行解码，以识别活跃约束集合。
• 一旦确定活跃约束，求解一个稀疏线性系统以恢复原始最优解。
• 解码过程具备纠错能力：即使预测存在噪声，仍能凭借KKT条件的几何结构准确识别出活跃约束。
• 该框架具有模块化特性，可扩展用于批量处理或集成优化的线性代数后端，以实现进一步加速。

实验结果

研究问题

• RQ1 在确保解的可行性和最优性的前提下，神经网络能否有效用于大规模网络流问题中活跃约束的预测？
• RQ2 如何将线性规划的对偶理论整合进神经架构中，以提升优化预测的泛化能力与鲁棒性？
• RQ3 基于KKT条件的可微解码策略是否能在解的质量与速度方面优于端到端预测或基于分类的方法？
• RQ4 此类学习框架在多大程度上能泛化到训练数据之外的未见网络规模与输入分布？

主要发现

• 所提出的神经解码器相比Cplex与Gurobi等最先进求解器实现了超过10倍的速度提升，小规模网络中提速达15倍，大规模网络中提速5倍。
• 在所有基准测试中，与CVXPY求得的最优解相比，该方法在可行测试实例上的平均代价增加不足0.5%。
• 该方法在测试数据上的不可行率最低（低于5%），显著优于最近邻、端到端预测与分类基线方法。
• 对于39节点最优潮流（OPF）问题，与求解器相比，该方法的平均代价增加仅为0.7%，且在识别活跃发电机与线路方面具有高精度。
• 解码机制对模型噪声具有鲁棒性：即使梯度预测不完美，仍能凭借基于KKT的解码的纠错特性可靠恢复出正确的活跃约束。
• 该框架在更大规模网络上表现出良好的泛化能力，对未见输入分布的性能保持稳定，表明其具备强大的分布外泛化能力。