[论文解读] PyEPO: A PyTorch-based End-to-End Predict-then-Optimize Library for Linear and Integer Programming

Bo Tang, Elias B. Khalil|arXiv (Cornell University)|Jun 28, 2022

Advanced Neural Network Applications被引用 8

一句话总结

PyEPO 是一个基于 PyTorch 的端到端可微分预测-然后优化库，适用于线性和整数规划，将优化求解器集成到可微训练流程中。它通过四种最先进的方法直接优化决策质量，在最短路径和多重背包等合成与真实世界问题中，其决策质量优于两阶段方法。

ABSTRACT

In deterministic optimization, it is typically assumed that all problem parameters are fixed and known. In practice, however, some parameters may be a priori unknown but can be estimated from historical data. A typical predict-then-optimize approach separates predictions and optimization into two stages. Recently, end-to-end predict-then-optimize has become an attractive alternative. In this work, we present the PyEPO package, a PyTorchbased end-to-end predict-then-optimize library in Python. To the best of our knowledge, PyEPO (pronounced like pineapple with a silent "n") is the first such generic tool for linear and integer programming with predicted objective function coefficients. It provides four base algorithms: a convex surrogate loss function from the seminal work of Elmachtoub and Grigas [16], a differentiable black-box solver approach of Pogancic et al. [35], and two differentiable perturbation-based methods from Berthet et al. [6]. PyEPO provides a simple interface for the definition of new optimization problems, the implementation of state-of-the-art predict-then-optimize training algorithms, the use of custom neural network architectures, and the comparison of end-to-end approaches with the two-stage approach. PyEPO enables us to conduct a comprehensive set of experiments comparing a number of end-to-end and two-stage approaches along axes such as prediction accuracy, decision quality, and running time on problems such as Shortest Path, Multiple Knapsack, and the Traveling Salesperson Problem. We discuss some empirical insights from these experiments, which could guide future research. PyEPO and its documentation are available at https://github.com/khalil-research/PyEPO.

研究动机与目标

• 为线性和整数规划中的端到端预测-然后优化提供通用且易于访问的工具，以填补现有空白。
• 实现优化求解器与深度学习流水线的无缝集成，以支持决策感知学习。
• 提供一个统一且可扩展的框架，用于在多种优化问题上比较端到端与两阶段方法。
• 支持使用自定义神经网络和求解器（包括 Gurobi 和 Pyomo），以实现广泛的兼容性。
• 通过真实和合成数据集的实证验证，证明端到端学习在提升决策质量方面的有效性。

提出的方法

• PyEPO 通过自动微分将优化求解器嵌入 PyTorch 的计算图中，实现对求解器的反向传播。
• 实现了四种核心训练算法：凸代理损失（Elmachtoub & Grigas, 2021）、可微分黑箱求解器（Pogančić et al., 2019），以及两种基于扰动的方法（Berthet et al., 2020）。
• 该库支持通过黑箱接口或高级建模语言（如 Pyomo 和 GurobiPy）定义优化问题。
• 支持使用自定义神经网络架构和损失函数进行训练，直接优化决策质量而非预测误差。
• 该框架支持连续和混合整数线性规划，配备可微分求解器，可计算梯度以用于模型更新。
• 实验使用合成数据集和《魔兽争霸》地形图像数据集，评估指标包括后悔值和路径准确率。

实验结果

研究问题

• RQ1 端到端预测-然后优化是否能在线性和整数规划问题中，实现优于两阶段方法的决策质量？
• RQ2 不同可微分优化方法在预测准确率、决策质量和训练效率方面的表现如何比较？
• RQ3 当特征丰富时（如在基于图像的优化问题中），端到端学习是否具有优势？
• RQ4 松弛化和正则化在多大程度上能提升端到端模型的性能？
• RQ5 该框架在支持多样化优化问题和求解器的同时，能否保持可微性和训练效率？

主要发现

• 在《魔兽争霸》最短路径问题中，PFYL 方法在路径准确率（解中正确边的比例）方面表现最佳，优于两阶段方法及其他端到端方法。
• 在多重背包和最短路径问题中，端到端方法显著提升了决策质量，以相对后悔值衡量。
• 在《魔兽争霸》地形数据集上，即使训练期间未提供真实成本值，PFYL 仍取得了具有竞争力的结果，表明其具备强大的泛化能力。
• 在最短路径任务中，两阶段方法的表现与 SPO+ 和 PFYL 相当，表明对于更简单的问题，端到端学习可能并非总是必要。
• 该框架表明，正则化和松弛化技术可提升端到端模型性能，尤其在复杂或噪声较大的场景中。
• PyEPO 支持高效比较不同训练范式，并支持与最先进深度学习模型和求解器的即插即用式集成。