[論文レビュー] Globally solving Non-Convex Quadratic Programs via Linear Integer Programming techniques

Wei Xia, Juan C. Vera+1 more|Research portal (Tilburg University)|Nov 8, 2015

Advanced Optimization Algorithms Research参考文献 27被引用数 9

ひとこと要約

本稿では、KKT条件、バイナリ変数、およびbig-M制約を用いて非凸二次計画問題（QPs）を混合整数線形計画問題（MILPs）に再定式化することにより、非凸QPsをグローバルに解くための新規手法を提案する。主な貢献は、グローバル最適解を失うことなく双対変数の境界を設定する技術であり、これにより最先端のMILPソルバの効率的利用が可能となり、標準的および一般のQPインスタンスにおいて、quadprogBB、BARON、CPLEXといった既存のソルバーよりも優れた性能を発揮する。

ABSTRACT

Quadratic programming (QP) is a well-studied fundamental NP-hard optimization problem which optimizes a quadratic objective over a set of linear constraints. In this paper, we reformulate QPs as a mixed-integer linear problem (MILP). This is done via the reformulation of QP as a linear complementary problem, and the use of binary variables and big-M constraints, to model the complementary constraints. To obtain such reformulation, we show how to impose bounds on the dual variables without eliminating all the (globally) optimal primal solutions; using some fundamental results on the solution of perturbed linear systems. Reformulating non-convex QPs as MILPs provides an advantageous way to obtain global solutions as it allows the use of current state-of-the-art MILP solvers. To illustrate this, we compare the performance of our solution approach, labeled quadprogIP, with the current benchmark global QP solver quadprogBB, as well as with BARON, one of the leading non-linear programming (NLP) solvers, and CPLEX's non-convex QP solver, on a large variety of QP test instances. In practice, quadprogIP is shown to typically outperform by orders of magnitude quadprogBB, BARON, and CPLEX on standard QPs. For general QPs, quadprogIP outperforms quadprogBB, outperforms BARON in most instances, while CPLEX performs the best on these instances. For box-constrained QPs, quadprogIP has a comparable performance to quadprogBB and BARON in small- to medium-scale instances, but is outperformed by these solvers on large-scale instances; while CPLEX performs the best on box-constrained QP instances. Also, unlike quadprogBB, the solution approach proposed here is able to solve QP instances whose dual feasible set is unbounded. The MATLAB code, called quadprogIP, and the instances used to perform these numerical experiments are publicly available at https://github.com/xiawei918/quadprogIP.

研究の動機と目的

• 非凸二次計画問題（QPs）をグローバルに解く挑戦に取り組むこと。これはNP困難であり、多項式時間解法を有しない。
• 双対変数が有界である必要がある、または双対可能集合が無限大である場合に失敗する既存手法の制限を克服すること。
• 有効なMILP再定式化を構築することにより、非凸QPsに対して高性能なMILPソルバを活用可能にする。
• 摂動線形システム理論を用いて双対変数の境界を課すことにより、すべてのグローバル最適なプライマル解を保持する方法を提供すること。
• 多様なQPテストインスタンスにおいて、最先端のグローバルソルバーよりも優れた計算的性能を示すことを実証すること。

提案手法

• 非凸QPをそのKarush-Kuhn-Tucker（KKT）条件を用いて線形補完性問題（LCP）に再定式化する。
• 補完性制約をバイナリ変数とbig-M制約でモデル化し、MILP定式化を可能にする。
• 摂動線形システムに関する理論的結果（例：Güler et al., 1995）を適用して、グローバル最適解を失うことなく双対変数の計算可能な境界を導出する。
• KKT点の部分集合に制限することで、MILP再定式化が有効かつ有限収束することを保証し、すべてのグローバル最適解を含む。
• 得られたMILP定式化を、最先端のMILPソルバの入力として使用し、その効率性と頑健性を活用する。
• MATLABソルバ「quadprogIP」として実装し、テストインスタンスおよびパフォーマンスデータを含めて公開する。

実験結果

リサーチクエスチョン

• RQ1 非凸QPを、グローバル最適解を失うことなく、混合整数線形計画問題（MILPs）に再定式化することでグローバルに解くことは可能か？
• RQ2 双対可能集合が無限大であるQPにおいて、グローバル最適なプライマル解をすべて保持したまま、双対変数に有限の境界を課すことは可能か？
• RQ3 提案手法のMILPベースのアプローチは、標準的および一般のQPインスタンスにおいて、既存のグローバルソルバ（quadprogBB、BARON、CPLEX）と比較してどのように性能を発揮するか？
• RQ4 以前の手法（例：quadprogBB）とは異なり、双対可能集合が無限大であるQPインスタンスに対しても、本手法は対応可能か？
• RQ5 本手法は、ボックス制約付きQPと一般のQP問題において、サイズや密度が異なる場合に、スケーラビリティおよび効率性をどのように発揮するか？

主な発見

• 提案されたquadprogIPソルバは、標準的および一般のQPインスタンスにおいて、quadprogBBを桁違いに上回り、10^4秒の制限時間内に9個の追加インスタンスを解けるようになった。
• CUTEr、Globallib、RandQPテストセットにおいて、quadprogIPはBARONよりもほとんどのインスタンスを高速に解き、BARONが制限時間内に解けない問題の多くを解けるようになった。
• 一般のQPにおいて、quadprogIPはquadprogBBおよびBARONを多くのケースで上回ったが、CPLEXは依然としてこれらのインスタンスで最も速かった。
• ボックス制約付きQPにおいて、quadprogIPは小規模から中規模のインスタンスではquadprogBBおよびBARONと同等の性能を示したが、大規模インスタンスではそれらに劣り、CPLEXが再び最速であった。
• quadprogBBとは異なり、本手法は双対可能集合が無限大であるQPインスタンスを正常に解けるため、解ける問題の範囲が拡張された。
• quadprogIPのMATLAB実装およびすべてのテストインスタンスは、https://github.com/xiawei918/quadprogIP で公開されており、再現性のための生のパフォーマンスデータも含まれている。