[论文解读] Learning Active Constraints to Efficiently Solve Linear Bilevel Problems.

Eléa Prat, Spyros Chatzivasileiadis|arXiv (Cornell University)|Oct 13, 2020

Water resources management and optimization参考文献 22被引用 4

一句话总结

本文提出一种基于决策树的机器学习方法，用于预测双层优化中的活跃约束，避免使用大M法和二值变量。通过学习下层KKT条件，该方法显著加速了重复实例的求解时间——在电力系统战略投标问题中，高效求解了此前难以处理的问题。

ABSTRACT

Bilevel programming can be used to formulate many engineering and economics problems. However, common reformulations of bilevel problems to mixed-integer linear programs (through the use of Karush-Kuhn-Tucker conditions) make solving such problems hard, which impedes their implementation in real-life. In this paper, we significantly improve solution speed and tractability by introducing decision trees to learn the active constraints of the lower-level problem, while avoiding to introduce binaries and big-M constants. The application of machine learning reduces the online solving time, and becomes particularly beneficial when the same problem has to be solved multiple times. We apply our approach to power systems problems, and especially to the strategic bidding of generators in electricity markets, where generators solve the same problem many times for varying load demand or renewable production. Three methods are developed and applied to the problem of a strategic generator, with a DCOPF in the lower-level. We show that for networks of varying sizes, the computational burden is significantly reduced, while we also manage to find solutions for strategic bidding problems that were previously intractable.

研究动机与目标

• 解决由于标准重构为混合整数规划而导致的工程与经济中双层问题的计算不可行性。
• 克服在重复求解场景中，大M法和二值变量公式在双层问题中的局限性。
• 提升电力系统中双层问题的可处理性与求解速度，特别是在不同条件下战略发电机投标场景中。
• 开发一种基于机器学习的方法，从历史数据中学习活跃约束，以替代显式的KKT重构。

提出的方法

• 使用决策树学习双层优化中下层问题的活跃约束，替代传统的基于KKT的重构方法。
• 在历史问题实例上训练决策树，以预测在给定上层决策时，下层问题中哪些约束是活跃的。
• 通过在约束活动性上进行监督学习，直接建模活跃集，避免引入二值变量和大M常数。
• 将训练好的决策树集成到双层求解过程中，在在线优化中替代下层KKT条件。
• 将该方法应用于基于DCOPF的双层模型，以解决电力市场中的战略发电机投标问题。
• 通过迭代优化和问题特定特征，提升约束预测的准确性与双层求解的收敛性。

实验结果

研究问题

• RQ1 能否使用机器学习预测双层问题中的活跃约束，以避免使用大M法和二值变量公式？
• RQ2 所提出的方法在电力系统中重复双层优化场景下，如何提升计算速度？
• RQ3 该方法在多大程度上能够解决电力市场中此前难以处理的战略投标问题？
• RQ4 该方法在不同规模的电力网络以及需求或可再生能源出力变化条件下，性能表现如何扩展？

主要发现

• 所提方法通过用快速决策树预测替代计算成本高昂的基于KKT的重构，显著减少了在线求解时间。
• 该方法避免使用大M常数和二值变量，提升了数值稳定性与可处理性。
• 在不同规模的网络中，该方法使原本因计算限制而不可行的战略投标问题得以求解。
• 在重复求解场景（如负荷或可再生能源出力波动下的发电机投标）中，该方法尤为有效。
• 基于决策树的约束预测在识别活跃约束方面具有高精度，从而得到接近最优的双层求解结果。
• 计算负担大幅降低，使该方法在电力系统运行中实现实时或近实时部署成为可能。