[논문 리뷰] Global Solutions of Nonconvex Standard Quadratic Programs via Mixed Integer Linear Programming Reformulations

Jacek Gondzio, E. Alper Yıldırım|arXiv (Cornell University)|2018. 10. 04.

Advanced Optimization Algorithms ResearchMathematics참고 문헌 29인용 수 19

한 줄 요약

이 논문은 비볼록 표준 이차프로그램(StQPs)을 전역적으로 해결하기 위한 두 가지 혼합정수선형계획법(MILP) 재구성 방식을 제안한다. 첫 번째는 KKT 조건과 이진 변수를 사용한 big-M 제약 조건을 활용하고, 두 번째는 이차 목적함수의 날카운 과소추정 함수를 활용한다. 계산 결과, 두 제안된 방법 모두 다른 전역 해법 소프트웨어보다 유의미하게 뛰어난 성능을 보이며, 특히 대규모 문제에서 수개의 주기수의 속도 향상과 더 높은 최적해 확보 비율을 기록한다.

ABSTRACT

A standard quadratic program is an optimization problem that consists of minimizing a (nonconvex) quadratic form over the unit simplex. We focus on reformulating a standard quadratic program as a mixed integer linear programming problem. We propose two alternative mixed integer linear programming formulations. Our first formulation is based on casting a standard quadratic program as a linear program with complementarity constraints. We then employ binary variables to linearize the complementarity constraints. For the second formulation, we first derive an overestimating function of the objective function and establish its tightness at any global minimizer. We then linearize the overestimating function using binary variables and obtain our second formulation. For both formulations, we propose a set of valid inequalities. Our extensive computational results illustrate that the proposed mixed integer linear programming reformulations significantly outperform other global solution approaches. On larger instances, we usually observe improvements of orders of magnitude.

연구 동기 및 목표

• 비볼록 표준 이차프로그램(StQPs)에 대한 효율적인 전역 해법 개발. StQPs는 NP-완전이며 다양한 응용 분야에서 나타난다.
• CPLEX와 Gurobi와 같은 현대적 MILP 해법 소프트웨어를 활용할 수 있도록 StQPs를 혼합정수선형계획법(MILPs)으로 재구성한다.
• StQPs의 구조를 활용하여 해법 속도 향상과 최적해 복원 능력을 향상시키는 MILP 재구성 방식을 설계한다.
• 기본 문제 집합에서 최신 전역 최적화 해법 소프트웨어와의 성능 비교를 수행한다.

제안 방법

• 첫 번째 제안: StQP를 보완 제약 조건이 있는 선형계획법(LPCC)으로 재구성한 후, 이중 변수와 big-M 제약 조건을 사용해 보완 제약 조건을 선형화한다.
• 두 번째 제안: 해의 지지 집합을 기반으로 한 조각별 선형 과소추정 함수를 이차 목적함수로 대체하며, 이는 KKT 점에서 정확하다.
• StQP의 단위 단체와 대칭 행렬의 구조를 활용하여 최적값의 하한을 이용해 big-M 매개변수에 대한 타당한 하한을 유도한다.
• 계산 비용이 낮은 ℓ₁(Q)과 더 타당성이 높지만 더 비싼 ℓ₂(Q)의 두 가지 하한을 도입하여 MILP 모델 내 하한을 향상시킨다.
• 이월 불등식을 도입하여 타당한 타당성 해석을 강화하고 수렴 속도를 향상시킨다.
• MILP 해법 소프트웨어 내에서 문제에 특화된 강화 전략을 적용한 분할정복 프레임워크를 활용한다.

실험 결과

연구 질문

• RQ1 표준 이차프로그램은 고성능 MILP 해법 소프트웨어를 활용할 수 있도록 혼합정수선형계획법으로 효과적으로 재구성할 수 있는가?
• RQ2 제안된 MILP 재구성 방식은 CPLEX-QP 및 BARON과 같은 일반 목적 전역 해법 소프트웨어와 비교해 성능가 어떻게 다른가?
• RQ3 더 타당성이 높은 하한(ℓ₂(Q))을 사용할지, 더 저렴한 하한(ℓ₁(Q))을 사용할지의 영향은 해법 속도와 최적성에 어떤가?
• RQ4 이월 불등식은 MILP 재구성 방식의 성능 향상에 얼마나 효과적인가?
• RQ5 제안된 MILP 접근 방식은 대규모 StQP 문제에 대해 효과적으로 확장 가능한가?

주요 결과

• IS1 문제 집합에서, 제안된 MILP 재구성 방식의 여덟 가지 변형 모두 QP-IP를 초월하며, QP-IP는 CPLEX-QP와 BARON을 모두 능가한다.
• MILP2-L2가 가장 빠른 해법 시간을 기록했고, 그 다음으로 MILP1-L2-VI와 MILP2-L2-VI가 뒤이었다. 후자 두 모델은 시간 제한 내에 더 높은 비율의 문제를 해결했다.
• 더 큰 IS2 문제 집합에서는 MILP2-L1이 모든 다른 재구성 방식보다 뚜렷이 뛰어난 성능을 보였고, 그 다음으로 MILP2-L1-VI가 뒤이었다. QP-IP는 그 다음으로 좋은 성능을 기록했다.
• 이월 불등식의 추가로 MILP1 및 MILP2 재구성 방식 모두 최적해를 구한 문제의 수가 증가했지만, 문제 유형에 따라 성능 향상 정도가 달라졌다.
• 이완된 MILP2 재구성 방식이 가장 자주 가장 빠른 해법 시간을 기록했으며, 특히 더 타당성이 높은 ℓ₂(Q) 하한과 조합했을 때 두드러진 성능 향상을 보였다. 다만 ℓ₂(Q) 계산은 대규모 문제에서 계산 비용이 크다.
• 전반적으로 제안된 MILP 재구성 방식은 기존 전역 해법 대비 성능 향상이 주기수 수준으로 나타났으며, 특히 대규모 문제에서 두드러진 성능 향상을 보였다.