[论文解读] Interior Point Solving for LP-based prediction+optimisation

Jayanta Mandi, Tias Guns|arXiv (Cornell University)|Oct 26, 2020

Advanced Optimization Algorithms Research参考文献 27被引用 34

一句话总结

本文提出 IntOpt，一种基于 interior-point 的可微分 LP 层，用于端到端的预测与优化，利用带对数障的同源自对偶 LP 形式对其求导，并在 MILP 相关任务的对比中展示出与最先进方法的竞争力。

ABSTRACT

Solving optimization problems is the key to decision making in many real-life analytics applications. However, the coefficients of the optimization problems are often uncertain and dependent on external factors, such as future demand or energy or stock prices. Machine learning (ML) models, especially neural networks, are increasingly being used to estimate these coefficients in a data-driven way. Hence, end-to-end predict-and-optimize approaches, which consider how effective the predicted values are to solve the optimization problem, have received increasing attention. In case of integer linear programming problems, a popular approach to overcome their non-differentiabilty is to add a quadratic penalty term to the continuous relaxation, such that results from differentiating over quadratic programs can be used. Instead we investigate the use of the more principled logarithmic barrier term, as widely used in interior point solvers for linear programming. Specifically, instead of differentiating the KKT conditions, we consider the homogeneous self-dual formulation of the LP and we show the relation between the interior point step direction and corresponding gradients needed for learning. Finally our empirical experiments demonstrate our approach performs as good as if not better than the state-of-the-art QPTL (Quadratic Programming task loss) formulation of Wilder et al. and SPO approach of Elmachtoub and Grigas.

研究动机与目标

• 在系数不确定且从数据中预测的 MILP 场景，激励端到端学习。
• 提出在 interior-point 框架内使用对数障的可微分 LP 松弛。
• 通过同源自对偶嵌入进行微分以获得任务损失梯度。
• 在 MILP 相关问题上将 IntOpt 与最先进方法对比评估，并展示竞争性能。

提出的方法

• 将 LP 作为神经网络之上的最终可微分层，支持 MILP 问题的端到端训练。
• 在 LP 中加入对数障项，使目标函数可二阶可微，替代二次惩罚。
• 对 LP 的同源自对偶嵌入（HSD）进行微分，而非 KKT 条件，以获得梯度。
• 采用前向 interior-point 过程计算 LP 解，后向过程计算 ∂x*/∂c 以进行反向传播。
• 通过提前停止（lambda-cutoff）和线性系统求解中的阻尼来提高数值稳定性。
• 使用前向-后向方案（Eq. 9-12）在需要时对阻尼系统计算原/对方向与梯度。

实验结果

研究问题

• RQ1 一个带对数障的 interior-point LP 形式是否能够提供适用于端到端学习的可微梯度以用于预测与优化设置？
• RQ2 通过对同源自对偶嵌入的微分是否可以得到与基于二次/ SPO 方法相比具有竞争力的 MILP 任务损失梯度？
• RQ3 初始化、停止标准（lambda-cutoff）及阻尼如何影响端到端训练的数值稳定性与性能？
• RQ4 在各种 MILP 类任务中，所提出的 IntOpt 相对于两阶段、QPTL 和 SPO 方法的经验性表现如何？

主要发现

• IntOpt 在保持对梯度流中与 LP 求解更紧密的一致性前提下，匹配或优于最先进方法（QPTL 和 SPO）。
• 在实验（背包、能量调度、最短路径）中，IntOpt 实现了具有竞争力的遗憾，并在某些情况下具有与 MSE 相近甚至略差的表现，凸显任务聚焦学习的收益。
• 使用同源自对偶 LP 形式和对数障带来可微的反向传播路径，可以将其整合为神经网络的一层。
• 基于 HSD 的梯度可以用与前向牛顿步相同的线性方程组结构高效计算，便于重用因子分解和加速。
• 超参数如 lambda-cutoff 与阻尼因子对数值稳定性和性能有显著影响；提前停止可减少迭代次数并提高稳定性。
• 该方法表明端到端学习可以利用类似 LP 的结构在处理系数不确定性的同时维持强优化性能。