[论文解读] Optimal Solution Predictions for Mixed Integer Programs

Jian-Ya Ding, Chao Zhang+5 more|arXiv (Cornell University)|Jun 23, 2019

Vehicle Routing Optimization Methods参考文献 12被引用 7

一句话总结

本文提出了一种基于图的机器学习框架，采用三部图表示法与图卷积网络（GCNs）来预测混合整数规划（MIP）中二元变量的最优解值。通过利用重复MIP实例之间的结构相似性，该方法生成局部分支切割，显著提升了在八类问题上的先进MIP求解器的原始解寻找性能。

ABSTRACT

Mixed Integer Programming (MIP) is one of the most widely used modeling techniques for combinatorial optimization problems. In many applications, a similar MIP model is solved on a regular basis, maintaining remarkable similarities in model structures and solution appearances but differing in formulation coefficients. This offers the opportunity for machine learning methods to explore the correlations between model structures and the resulting solution values. To address this issue, we propose to represent an MIP instance using a tripartite graph, based on which a Graph Convolutional Network (GCN) is constructed to predict solution values for binary variables. The predicted solutions are used to generate a local branching type cut which can be either treated as a global (invalid) inequality in the formulation resulting in a heuristic approach to solve the MIP, or as a root branching rule resulting in an exact approach. Computational evaluations on 8 distinct types of MIP problems show that the proposed framework improves the primal solution finding performance significantly on a state-of-the-art open-source MIP solver.

研究动机与目标

• 解决在系数变化但结构一致的情况下重复求解相似MIP实例的挑战。
• 利用MIP实例之间的结构与解的相似性，通过机器学习提升求解效率。
• 开发一种准确预测二元变量解的方法，以启发式或精确方式引导MIP求解。
• 通过分支规则或切割将学习到的预测结果集成到MIP求解过程中，以提升性能。

提出的方法

• 将每个MIP实例表示为三部图，以捕捉约束、变量及其相互关系。
• 在三部图上训练图卷积网络（GCN），以预测二元变量的最优值。
• 利用预测解生成一种类似局部分支的切割，作为启发式不等式或根节点分支规则。
• 将预测切割以全局约束（启发式）或分支规则（精确方法）的形式集成到MIP求解器中。
• 利用重复MIP实例之间的结构一致性，实现GCN模型的泛化能力。
• 将该框架应用于多种MIP问题，以评估其鲁棒性与性能提升。

实验结果

研究问题

• RQ1 在MIP实例的三部图表示上训练的GCN模型，能否有效预测二元变量的最优值？
• RQ2 预测解在原始解质量与收敛速度方面，对MIP求解性能有何影响？
• RQ3 与标准MIP技术相比，学习到的切割或分支规则能在多大程度上提升求解性能？
• RQ4 该框架是否能在具有不同公式系数的多样化MIP问题类型上实现泛化？

主要发现

• 所提出的基于GCN的框架显著提升了在先进开源MIP求解器上的原始解寻找性能。
• 该方法在八类不同的MIP问题中均实现性能提升，展现出广泛的适用性。
• 利用预测解生成的局部分支切割可加快收敛至高质量原始解的速度。
• 该框架支持启发式与精确求解模式，后者可保持解的最优性。
• 三部图表示法能有效捕捉MIP模型与其解之间的结构相关性。
• 该方法利用重复MIP实例中反复出现的结构模式，以提升学习与预测的准确性。