[论文解读] Global Solutions of Nonconvex Standard Quadratic Programs via Mixed Integer Linear Programming Reformulations

Jacek Gondzio, E. Alper Yıldırım|arXiv (Cornell University)|Oct 4, 2018

Advanced Optimization Algorithms ResearchMathematics参考文献 29被引用 19

一句话总结

本文提出了两种混合整数线性规划（MILP）重 formulation，用于全局求解非凸标准二次规划（StQPs）。第一种方法利用KKT条件和带二元变量的大M约束；第二种方法则基于解的支撑构造了二次目标函数的紧致上界函数。计算结果表明，两种公式在大规模实例上显著优于其他全局求解器，实现了数量级的加速，并且最优解恢复率更高。

ABSTRACT

A standard quadratic program is an optimization problem that consists of minimizing a (nonconvex) quadratic form over the unit simplex. We focus on reformulating a standard quadratic program as a mixed integer linear programming problem. We propose two alternative mixed integer linear programming formulations. Our first formulation is based on casting a standard quadratic program as a linear program with complementarity constraints. We then employ binary variables to linearize the complementarity constraints. For the second formulation, we first derive an overestimating function of the objective function and establish its tightness at any global minimizer. We then linearize the overestimating function using binary variables and obtain our second formulation. For both formulations, we propose a set of valid inequalities. Our extensive computational results illustrate that the proposed mixed integer linear programming reformulations significantly outperform other global solution approaches. On larger instances, we usually observe improvements of orders of magnitude.

研究动机与目标

• 开发高效求解非凸标准二次规划（StQPs）的全局方法，此类问题为NP难，且在多种应用中广泛出现。
• 将StQP重 formulation 为混合整数线性规划（MILPs），以利用CPLEX和Gurobi等现代高性能MILP求解器。
• 设计能够利用StQP结构的MILP公式，以提升求解速度和最优解恢复能力。
• 在基准实例上，将所提公式的性能与最先进的全局优化求解器进行对比评估。

提出的方法

• 第一种公式：将StQP重 formulation 为带互补约束的线性规划（LPCC），然后通过二元变量和大M约束线性化互补约束。
• 第二种公式：用基于解支撑的分段线性上界函数替代二次目标函数，该上界函数在KKT点处精确。
• 利用最优值的下界推导大M参数的有效界，结合StQP的单位单纯形和对称矩阵结构。
• 引入两种下界：ℓ₁(Q)（计算成本低）和ℓ₂(Q)（更紧致但计算更昂贵），以改进MILP模型中的边界。
• 通过引入有效不等式来加强松弛问题，提升收敛性。
• 在MILP求解器中采用分支定界框架，并结合问题特异性策略进行紧缩，以提升性能。

实验结果

研究问题

• RQ1 标准二次规划能否被有效重 formulation 为混合整数线性规划，从而启用高性能MILP求解器？
• RQ2 所提出的MILP公式与通用全局求解器（如CPLEX-QP和BARON）相比，性能如何？
• RQ3 使用更紧致的下界（ℓ₂(Q)）与更廉价的下界（ℓ₁(Q)）对求解速度和最优性恢复有何影响？
• RQ4 有效不等式在提升MILP公式性能方面有多有效？
• RQ5 所提出的MILP方法在大规模StQP实例上能否实现有效扩展？

主要发现

• 在IS1实例集上，所提MILP公式的八个变体全部优于QP-IP，而QP-IP又优于CPLEX-QP和BARON。
• MILP2-L2在求解时间上表现最佳，其次为MILP1-L2-VI和MILP2-L2-VI，后两者在时间限制内求解了更高比例的实例。
• 在更大的IS2实例集上，MILP2-L1明显优于所有其他公式，其次为MILP2-L1-VI，QP-IP为第三名。
• 引入有效不等式显著提升了MILP1和MILP2公式的最优解求解数量，但性能表现因实例类型而异。
• 放松的MILP2公式在大多数情况下实现了最佳求解时间，尤其在结合更紧致的ℓ₂(Q)边界时；尽管ℓ₂(Q)在大规模实例上计算成本较高。
• 总体而言，所提MILP公式相较于现有全局求解方法实现了数量级的性能提升，尤其在大规模实例上表现突出。