[论文解读] A Simple Effective Heuristic for Embedded Mixed-Integer Quadratic Programming

Reza Takapoui, Nicholas Moehle+2 more|IMT Institutional Repository (IMT School for Advanced Studies Lucca)|Sep 28, 2015

Advanced Optimization Algorithms Research参考文献 81被引用 4

一句话总结

本文提出了一种基于ADMM的快速启发式算法，用于求解具有非凸约束的嵌入式混合整数二次规划问题，能够在短时间内快速收敛至高质量的可行解。该方法在嵌入式平台上仅需数秒即可实现近全局最优解，其速度优于分支定界法，同时在车辆控制、电力转换和信号解码任务中，解决方案质量与松弛-舍入法相当或更优。

ABSTRACT

In this paper we propose a fast optimization algorithm for approximately minimizing convex quadratic functions over the intersection of affine and separable constraints (i.e., the Cartesian product of possibly nonconvex real sets). This problem class contains many NP-hard problems such as mixed-integer quadratic programming. Our heuristic is based on a variation of the alternating direction method of multipliers (ADMM), an algorithm for solving convex optimization problems. We discuss the favorable computational aspects of our algorithm, which allow it to run quickly even on very modest computational platforms such as embedded processors. We give several examples for which an approximate solution should be found very quickly, such as management of a hybrid-electric vehicle drivetrain and control of switched-mode power converters. Our numerical experiments suggest that our method is very effective in finding a feasible point with small objective value; indeed, we find that in many cases, it finds the global solution.

研究动机与目标

• 开发一种计算高效的启发式算法，用于在嵌入式系统中求解具有非凸约束的混合整数二次规划问题。
• 解决如分支定界等精确方法在最坏情况下为非多项式时间复杂度的挑战，这些方法在实时嵌入式应用中不切实际。
• 实现在参数 q、b 和 X 在不同运行之间变化但 P 和 A 保持不变的问题实例中快速求解。
• 为实时控制和信号处理提供一种实用的替代方案，平衡解决方案质量、运行时间和实现复杂度。
• 在混合动力车辆控制、开关模式电源转换器和MIMO信号解码等嵌入式应用中展示其有效性。

提出的方法

• 该方法采用改进的交替方向乘子法（ADMM）求解原始非凸问题的凸松弛形式。
• 引入正则化项以惩罚偏离最小二乘解的偏差，从而提升收敛性和解的质量。
• 算法通过增广拉格朗日对偶上升步骤交替更新原始变量和对偶变量。
• 在每次ADMM更新后，通过投影步骤强制执行非凸约束，确保最终迭代的可行性。
• 该方法仅需单一定点初始化，并运行固定次数的迭代，因此适用于嵌入式部署。
• 该方法设计为计算轻量化，可在资源有限的嵌入式处理器上运行，满足严格的时序约束。

实验结果

研究问题

• RQ1 简单的基于ADMM的启发式算法是否能在实时嵌入式系统中实现具有非凸约束的混合整数二次规划问题的近全局最优解？
• RQ2 在嵌入式控制和信号解码任务中，该启发式算法在解决方案质量和运行时间方面与松弛-舍入法和分支定界法相比如何？
• RQ3 在实际嵌入式应用中，该启发式算法在多大程度上能够找到全局最优解或目标值较小的可行解？
• RQ4 该方法在不同初始化策略和具有不同参数集的问题实例中表现如何？
• RQ5 该启发式算法是否能有效应用于P和A保持不变但q、b和X变化的问题，例如在模型预测控制中？

主要发现

• 对于开关模式电源转换器控制问题，该启发式算法在2秒内找到了目标值较小的可行解，而MOSEK则耗时超过4小时才找到全局最优解。
• 在1,000个MIMO信号解码实例中，95%的情况下ADMM启发式算法的误比特率（BER）至少与松弛-舍入法相当。
• 如目标值差异的直方图所示，在95%的情况下，ADMM解的目标值优于或等于松弛-舍入解。
• 包括预处理在内的每个问题实例的平均运行时间仅为80毫秒，显著快于分支定界法。
• 对于混合动力车辆传动系统控制问题，该启发式算法提供的解在性能上与全局最优解几乎无法区分。
• 该方法在多种初始化方式和问题类型下表现出鲁棒性，始终在嵌入式时间约束内找到高质量的可行解。