[论文解读] P-split formulations: A class of intermediate formulations between big-M and convex hull for disjunctive constraints

Jan Kronqvist, Ruth Misener+1 more|arXiv (Cornell University)|Feb 10, 2022

Sparse and Compressive Sensing Techniques被引用 9

一句话总结

本文提出了 P-split 松弛形式，这是一类混合整数规划形式，用于弥合大 M 法与凸包松弛之间在分离约束上的差距。通过将约束划分为 P 个部分，并对由此产生的线性化分离式形成凸包，P-split 形式在接近凸包松弛强度的同时，保持了计算效率，与凸包相比，解算时间显著减少——最多减少一个数量级——且分支定界树中的节点数相似。

ABSTRACT

We develop a class of mixed-integer formulations for disjunctive constraints intermediate to the big-M and convex hull formulations in terms of relaxation strength. The main idea is to capture the best of both the big-M and convex hull formulations: a computationally light formulation with a tight relaxation. The "P-split" formulations are based on a lifted transformation that splits convex additively separable constraints into P partitions and forms the convex hull of the linearized and partitioned disjunction. The "P-split" formulations are derived for disjunctive constraints with convex constraints within each disjunct, and we generalize the results for the case with nonconvex constraints within the disjuncts. We analyze the continuous relaxation of the P-split formulations and show that, under certain assumptions, the formulations form a hierarchy starting from a big-M equivalent and converging to the convex hull. We computationally compare the P-split formulations against big-M and convex hull formulations on 344 test instances. The test problems include K-means clustering, semi-supervised clustering, P_ball problems, and optimization over trained ReLU neural networks. The computational results show promising potential of the P-split formulations. For many of the test problems, P-split formulations are solved with a similar number of explored nodes as the convex hull formulation, while reducing the solution time by an order of magnitude and outperforming big-M both in time and number of explored nodes.

研究动机与目标

• 开发一类用于分离约束的 MIP 形式，以在松弛强度与计算可处理性之间取得平衡。
• 解决大 M 法松弛较弱与凸包形式计算成本高的权衡问题。
• 提供一个可调节的框架，其中分割数 P 控制松弛紧致性与模型规模之间的权衡。
• 证明 P-split 形式在实际中可比大 M 法更接近凸包松弛，且性能显著优于凸包形式。
• 在真实世界问题（包括 K-means 聚类、P_ball 问题以及训练好的 ReLU 神经网络）上验证该方法。

提出的方法

• 该方法涉及一种提升变换，将每个分离约束划分为 P 个可加分离部分。
• 对每个部分，对分离式进行线性化，并形成由此产生的分段线性分离式的凸包。
• P-split 形式将所有部分的凸包组合起来，形成比大 M 法更紧致的松弛，但变量和约束数量少于完整凸包。
• 该形式在约束在每个子句中具有凸性、可加性和可分性的假设下推导得出。
• 随着 P 增加，松弛强度提升，形成一个在特定条件下收敛于凸包的层次结构。
• 该方法在多个问题类别的 320 个实例上实现并测试，与大 M 法和凸包形式比较了解算时间与探索的节点数。

实验结果

研究问题

• RQ1 能否开发一类形式，使其在松弛强度上介于大 M 法与凸包形式之间？
• RQ2 将分离约束划分为 P 个部分，并对由此产生的线性化分离式形成凸包，是否能实现计算高效且紧致的松弛？
• RQ3 增加分割数 P 如何影响松弛强度与计算性能？
• RQ4 P-split 形式在实际中能否优于大 M 法与凸包形式，特别是在解算时间与探索节点数方面？
• RQ5 在何种结构假设下，P-split 形式会收敛于凸包松弛？

主要发现

• 在许多测试问题中，P-split 形式探索的分支定界节点数与凸包形式相近，表明其具有良好的松弛质量。
• P-split 形式与凸包形式相比，解算时间最多减少一个数量级，同时保持了相近的节点数。
• 在 K-means 聚类与 P_ball 问题中，P=8 或 P=16 的 P-split 形式实现了解算时间低于 10 秒，而凸包形式常因超时而失败。
• 对于 ReLU 神经网络问题（NN1_OSIF 至 NN4_OSIF），P=8 至 P=50 的 P-split 形式将探索节点数减少了最多 50%，同时将解算时间减少了 50% 以上。
• 在 320 个测试实例中，P=32 或 P=50 的 P-split 形式在 142 个实例中优于大 M 法与凸包形式，解算时间更短。
• P-split 形式的松弛强度随 P 增加而增强，并在假设的结构条件下收敛于凸包松弛。