[论文解读] An Iterative Method for Nonconvex Quadratically Constrained Quadratic Programs

Chuangchuang Sun, Ran Dai|arXiv (Cornell University)|Sep 8, 2016

Advanced Optimization Algorithms Research参考文献 23被引用 3

一句话总结

该论文提出了一种用于求解非凸二次约束二次规划（QCQP）问题的迭代秩最小化（IRM）方法，其中每个子问题被表述为凸半定规划（SDP），并通过基于增广拉格朗日法的扩展Uzawa算法求解。该方法实现了线性收敛至局部最优解，并具有保证的收敛速率，且在降低目标函数值方面相比商业NLP求解器表现出更优性能。

ABSTRACT

This paper examines the nonconvex quadratically constrained quadratic programming (QCQP) problems using an iterative method. One of the existing approaches for solving nonconvex QCQP problems relaxes the rank one constraint on the unknown matrix into semidefinite constraint to obtain the bound on the optimal value without finding the exact solution. By reconsidering the rank one matrix, an iterative rank minimization (IRM) method is proposed to gradually approach the rank one constraint. Each iteration of IRM is formulated as a convex problem with semidefinite constraints. An augmented Lagrangian method, named extended Uzawa algorithm, is developed to solve the subproblem at each iteration of IRM for improved scalability and computational efficiency. Simulation examples are presented using the proposed method and comparative results obtained from the other methods are provided and discussed.

研究动机与目标

• 为解决具有收敛保证和计算效率提升的非凸QCQP问题提供方法。
• 开发一种方法，通过迭代逼近矩阵松弛问题的秩一解，确保可行性与最优性。
• 通过高效的子问题求解器，提升大规模QCQP问题的可扩展性与计算效率。
• 为迭代方法提供理论收敛保证，并实现线性收敛速率。
• 在真实最优控制问题（如具有几何约束的航天器姿态控制）上验证该方法。

提出的方法

• IRM方法通过在半定约束下迭代最小化矩阵变量的秩，逼近QCQP的秩一解。
• 每次迭代求解一个带有来自原始QCQP公式推导出的半定约束的凸SDP子问题。
• 采用基于增广拉格朗日法的扩展Uzawa算法，高效且可扩展地求解每个SDP子问题。
• 该方法利用对偶理论与Karush-Kuhn-Tucker（KKT）条件，建立线性收敛至局部最优解的理论依据。
• 通过引入扩展向量和归一化约束 $ t^2 = 1 $，将非齐次QCQP重写为齐次形式。
• 将该算法应用于最优航天器姿态控制问题，通过离散化和约束嵌入将其转化为QCQP。

实验结果

研究问题

• RQ1 能否为非凸QCQP问题开发一种具有收敛保证的迭代方法？
• RQ2 所提出的IRM方法是否能实现线性收敛速率至局部最优解？
• RQ3 扩展Uzawa算法能否有效求解IRM每次迭代中产生的大规模SDP子问题？
• RQ4 与SNOPT等商业NLP求解器相比，IRM方法在解的质量和计算成本方面表现如何？
• RQ5 IRM方法能否成功应用于具有复杂几何约束的真实最优控制问题？

主要发现

• IRM方法实现了线性收敛至局部最优解，并具有理论上确定的收敛速率，该结论得到对偶性与KKT分析的支持。
• 扩展Uzawa算法在每次迭代中求解大规模SDP子问题时，确保了良好的可扩展性与计算效率。
• 在航天器姿态控制仿真中，IRM方法的目标函数值达到23.72，相比SNOPT的最佳结果（31.79）降低了25.39%。
• IRM方法收敛耗时743.6秒，而SNOPT在收敛案例中的平均耗时为8.4秒，表明该方法在解的质量与计算速度之间存在权衡。
• 衡量与秩一偏差的 $ r_k $ 值在数次迭代内收敛至零，证实了该方法逼近秩一解的能力。
• 该方法成功处理了复杂约束，包括通过三维空间中角度限制与向量方向定义的禁止区域与强制区域。