[논문 리뷰] Tight MIQP Reformulations for Semi-Continuous Quadratic Programming: Lift-and-Convexification Approach

Baiyi Wu, Xiaoling Sun외 2명|arXiv (Cornell University)|2015. 07. 21.

Risk and Portfolio Optimization참고 문헌 39인용 수 7

한 줄 요약

이 논문은 반연속 이차 프로그래밍을 위한 엄밀한 혼합정수이차계획법(MIQP) 재구성 방법을 제안한다. 이는 x-공간의 이차항을 (x,y)-공간으로 올리고, 이를 볼록화하는 방식이다. 이 방법은 연속 relaxation의 경계를 퍼스펙티브 재구성과 동일한 수준으로 확보하면서도 원래 문제의 선형 제약 조건을 유지하여 브랜치 앤 바운드 성능을 향상시키며, 포트폴리오 선택 및 서브셋 선택 문제에 대한 계산 실험에서 최신 기법들을 능가한다.

ABSTRACT

We consider in this paper a class of semi-continuous quadratic programming problems which arises in many real-world applications such as production planning, portfolio selection and subset selection in regression. We propose a lift-and-convexification approach to derive an equivalent reformulation of the original problem. This lift-and-convexification approach lifts the quadratic term involving $x$ only in the original objective function $f(x,y)$ to a quadratic function of both $x$ and $y$ and convexifies this equivalent objective function. While the continuous relaxation of our new reformulation attains the same tight bound as achieved by the continuous relaxation of the well known perspective reformulation, the new reformulation also retains the linearly constrained quadratic programming structure of the original mix-integer problem. This prominent feature improves the performance of branch-and-bound algorithms by providing the same tightness at the root node as the state-of-the-art perspective reformulation and offering much faster processing time at children nodes. We further combine the lift-and-convexification approach and the quadratic convex reformulation approach in the literature to form an even tighter reformulation. Promising results from our computational tests in both portfolio selection and subset selection problems numerically verify the benefits from these theoretical features of our new reformulations.

연구 동기 및 목표

• 원래 문제의 선형 제약 조건을 유지하면서 반연속 이차 프로그래밍을 위한 더 엄밀한 MIQP 재구성 방법을 개발하는 것.
• 최신 기준인 퍼스펙티브 재구성과 동일한 연속 relaxation 경계를 확보하는 것.
• 자식 노드에서의 처리 속도를 높여 브랜치 앤 바운드 알고리즘의 계산 오버헤드를 줄이는 것.
• 리프트 및 볼록화 접근법을 기존의 이차 볼록 재구성(QCR) 기법과 융합하여 더욱 엄밀한 경계를 확보하는 것.
• 실제 응용 분야인 포트폴리오 선택 및 회귀에서의 서브셋 선택 문제에 대해 제안 방법을 실증적으로 검증하는 것.

제안 방법

• 목적 함수의 이차항을 x-공간에서 (x,y)-공간의 함수로 올려 문제를 고차원 공간으로 변환하는 것.
• (x,y) 공간에서 올린 이차 함수를 볼록화하여 원래 문제를 엄밀하게 둘러싸는 볼록 relaxation을 만드는 것.
• 재구성의 최적 파라미터를 확보하기 위해 정수형 프로그램(SDP)을 제작하여 가능한 한 엄밀한 연속 relaxation을 확보하는 것.
• 새로운 재구성의 연속 relaxation이 알려진 기준인 퍼스펙티브 재구성과 동일한 엄밀도를 가지는 것을 증명하는 것.
• SDP를 풀이하는 것이 퍼스펙티브 재구성과 거의 동일한 효율성을 보이며, 추가로 작은 크기의 SOCP 문제를 풀기만 하면 되므로 계산 비용을 줄이는 것.
• 리프트 및 볼록화 접근법을 기존의 이차 볼록 재구성(QCR) 기법과 융합하여 재구성의 엄밀도를 더욱 향상시키는 것.

실험 결과

연구 질문

• RQ1 리프트 및 볼록화 접근법은 퍼스펙티브 재구성과 동일한 연속 relaxation 경계를 갖는 MIQP 재구성을 생성할 수 있는가?
• RQ2 선형 제약 조건을 유지하는 것이 브랜치 앤 바운드 알고리즘에서 계산 효율성을 향상시키는가?
• RQ3 리프트 및 볼록화를 QCR와 융합하면 각각의 방법을 별도로 사용할 때보다 유의미하게 더 엄밀한 경계를 확보할 수 있는가?
• RQ4 새로운 재구성의 제작 비용은 퍼스펙티브 재구성과 비교해 어떻게 되는가?
• RQ5 실제 응용 분야인 포트폴리오 선택 및 서브셋 선택 문제에서 새로운 재구성은 해법 시간과 경계 품질을 얼마나 향상시키는가?

주요 결과

• 새로운 재구성의 연속 relaxation은 퍼스펙티브 재구성과 동일한 경계 품질을 확보한다. 이는 엄밀도에 대한 알려진 기준이다.
• 새로운 재구성은 선형 제약 조건이 유지된 이차계획법의 구조를 그대로 유지하여, 퍼스펙티브 컷 대비 브랜치 앤 바운드 노드에서 더 빠른 처리가 가능하다.
• 포트폴리오 선택 문제에 대한 계산 실험에서 리프트 및 볼록화를 QCR와 융합한 결과 평균 24.9%의 경계 개선을 기록하였으며, 개별 사례에서는 2.5%에서 47.1%까지 다양하게 향상되었다.
• 최적의 재구성을 구성하기 위해 사용된 SDP 제약는 문제 인스턴스당 한 번만 풀면 되므로, 장기적인 해결 이점을 위해 한 번의 계산 투자로 충분하다.
• 엄밀한 재구성 생성의 계산 부담을 줄여주며, 퍼스펙티브 재구성 대비 추가적인 노력이 거의 필요하지 않다.
• 실제로 최신 기법들과 경쟁 가능한 성능을 보이며, 반연속 변수를 포함한 혼합정수이차계획법 문제에 대해 강력한 대안을 제공한다.