[论文解读] GAMA: A Novel Algorithm for Non-Convex Integer Programs

Hedayat Alghassi, Raouf Dridi+1 more|arXiv (Cornell University)|Jul 25, 2019

Quantum Computing Algorithms and Architecture参考文献 20被引用 6

一句话总结

该论文提出GAMA，一种新颖的经典算法，通过利用Graver基和多个初始可行解来求解非凸整数规划问题。该算法系统地计算结构化矩阵的Graver基元素，并从多个种子解出发进行增广，相较于Gurobi在二次分配问题（QAP）上的表现，最优解求解速度最快提升4,407倍，尤其在大型或困难实例上表现卓越，而传统商业求解器往往无法求解。

ABSTRACT

Inspired by the decomposition in the hybrid quantum-classical optimization algorithm we introduced in arXiv:1902.04215, we propose here a new (fully classical) approach to solving certain non-convex integer programs using Graver bases. This method is well suited when (a) the constraint matrix $A$ has a special structure so that its Graver basis can be computed systematically, (b) several feasible solutions can also be constructed easily and (c) the objective function can be viewed as many convex functions quilted together. Classes of problems that satisfy these conditions include Cardinality Boolean Quadratic Problems (CBQP), Quadratic Semi-Assignment Problems (QSAP) and Quadratic Assignment Problems (QAP). Our Graver Augmented Multi-seed Algorithm (GAMA) utilizes augmentation along Graver basis elements (the improvement direction is obtained by comparing objective function values) from these multiple initial feasible solutions. We compare our approach with a best-in-class commercially available solver (Gurobi). Sensitivity analysis indicates that the rate at which GAMA slows down as the problem size increases is much lower than that of Gurobi. We find that for several instances of practical relevance, GAMA not only vastly outperforms in terms of time to find the optimal solution (by two or three orders of magnitude), but also finds optimal solutions within minutes when the commercial solver is not able to do so in 4 or 10 hours (depending on the problem class) in several cases.

研究动机与目标

• 解决具有结构化约束矩阵的困难非凸整数规划问题，这些问题是传统求解器无法处理的。
• 通过系统计算Graver基和可行解，开发一种完全经典化的替代方案，以取代混合量子-经典算法。
• 提升CBQP、QSAP和QAP等问题的求解速度与可扩展性，这些问题的目标准则是分段凸的。
• 证明利用Graver基的多种子增广方法可使最优解求解速度比商业求解器快数个数量级。
• 通过基于使用频率选择性生成Graver基元素，提供一种可扩展且内存高效的求解方法。

提出的方法

• 通过系统提升和Hilbert基生成方法，计算结构化约束矩阵（如n重积、Kronecker和）的Graver基。
• 通过在Graver基上的随机游走构建多个可行解，从初始解出发，通过添加随机基元素并遵守边界约束。
• 从每个种子解出发，沿Graver基元素执行增广操作，利用目标函数比较来指导改进步骤。
• 采用选择性生成策略——优先生成低砖数（brick-number）的提升——以减少内存占用，同时保持性能。
• 利用数学性质：任何凸非线性函数均可通过Graver基从任意可行解进行多项式时间增广实现全局优化。
• 通过将CBQP、QSAP和QAP的约束与目标函数建模为子空间上的拼接凸函数，将该方法应用于上述问题。

实验结果

研究问题

• RQ1 完全经典化的算法是否能在具有结构化约束的非凸整数规划问题上超越最先进的商业求解器（如Gurobi）？
• RQ2 Graver基在现实问题（如QAP和QSAP）导出的矩阵上，能否被系统地计算？
• RQ3 与单起点方法相比，利用Graver基的多种子增广是否能显著缩短达到最优解的时间？
• RQ4 当商业求解器超时的情况下，该算法在问题规模增大时的可扩展性如何？
• RQ5 选择性Graver基生成是否能有效降低内存开销而不影响解的质量？

主要发现

• GAMA在0.1144至212.86秒内求解了全部17个QAP实例，而Gurobi在10小时内未能求解其中10个。
• 在Gurobi能求解的最大QAP实例（问题规模108）上，GAMA的求解速度比Gurobi快4,407倍，仅用7.8秒即达最优。
• 对于CBQP和QSAP问题，GAMA在数分钟内获得最优解，而Gurobi则需4至10小时或完全失败。
• 敏感性分析表明，随着问题规模增大，GAMA的性能下降速率显著低于Gurobi。
• 绝大多数降低目标函数值的Graver基元素来自低砖数提升（t=2–4），这使得选择性生成成为可能。
• 通过选择性地按需生成高砖数基元素，显著降低了内存使用，同时保持了性能。