[论文解读] ADMM for the SDP relaxation of the QAP

Danilo Elias Oliveira, Henry Wolkowicz+1 more|arXiv (Cornell University)|Dec 17, 2015

Advanced Optimization Algorithms Research被引用 4

一句话总结

本文提出使用交替方向乘子法（ADMM）求解二次分配问题（QAP）的半定规划（SDP）松弛问题，相较于原始对偶内点法，实现了显著更快的收敛速度和更高的精度。该方法能够获得低秩解，高效地整合非负性和割平面约束，并保持稀疏性，从而改进了QAP实例的下界和上界。

ABSTRACT

The semidefinite programming (SDP) relaxation has proven to be extremely strong for many hard discrete optimization problems. This is in particular true for the quadratic assignment problem (QAP), arguably one of the hardest NP-hard discrete optimization problems. There are several difficulties that arise in efficiently solving the SDP relaxation, e.g.,~increased dimension; inefficiency of the current primal-dual interior point solvers in terms of both time and accuracy; and difficulty and high expense in adding cutting plane constraints. We propose using the alternating direction method of multipliers (ADMM) to solve the SDP relaxation. This first order approach allows for inexpensive iterations, a method of cheaply obtaining low rank solutions, as well a trivial way of adding cutting plane inequalities. When compared to current approaches and current best available bounds we obtain remarkable robustness, efficiency and improved bounds.

研究动机与目标

• 为解决原始对偶内点法在求解QAP的SDP松弛问题时存在的计算效率低下和可扩展性受限问题。
• 开发一种一阶优化方法，实现低秩解，并高效整合非负性和割平面约束。
• 通过利用ADMM保持稀疏性和实现高精度的能力，改进QAP的下界和上界。
• 与最先进方法相比，展示ADMM在大规模QAP实例上的鲁棒性和高效性。

提出的方法

• 本文将QAP重述为一个二次约束二次规划问题，并通过齐次化和面缩减技术推导出一种新的SDP松弛形式。
• 通过增广拉格朗日最小化将问题分解为涉及矩阵变量、对偶变量和约束的子问题，应用ADMM求解SDP松弛。
• 利用群组约束（行与列的逐元素正交性）降低问题复杂度和冗余性。
• 在ADMM迭代过程中，非负性和割平面约束被直接整合，保持稀疏性并提升边界质量。
• 算法采用改进的ADMM公式，结合变量分裂和对偶上升步骤，确保收敛至高精度解。
• 通过截断ADMM迭代解获得低秩解，为原始QAP提供可行的近似解。

实验结果

研究问题

• RQ1 ADMM在求解QAP的SDP松弛问题时，是否能在速度和精度上优于原始对偶内点法？
• RQ2 ADMM是否能够高效计算出低秩解，从而为QAP提供更好的可行上界？
• RQ3 非负性和割平面约束能否在ADMM框架内被高效整合，而不损失稀疏性或计算效率？
• RQ4 基于ADMM的SDP松弛与SDPLIB及其他基准中的现有最优边界相比如何？

主要发现

• 与原始对偶内点法相比，ADMM在求解QAP的SDP松弛问题时，显著降低了计算成本，同时实现了高精度解。
• 对于Nug25实例，ADMM实现了3535的下界，对偶间隙为2.43%，优于以往方法。
• 该方法在所有测试实例中均获得了改进的下界，包括Nug20的14.35%对偶间隙和Tai20a的15.85%对偶间隙，表明其具有强大的收敛性。
• ADMM实现了低秩解，为QAP提供了更优的可行近似，提升了上界质量。
• 在ADMM迭代过程中整合非负性和割平面约束在计算上极为简便，同时保持了稀疏性，增强了边界强度。
• 对于大规模实例如Tai30a和Tho30，ADMM实现了低于11.11%的对偶间隙，并在150秒内完成求解，展现出良好的可扩展性。