[논문 리뷰] On the Equivalence of SDP Feasibility and a Convex Hull Relaxation for System of Quadratic Equations

Bahman Kalantari|arXiv (Cornell University)|2019. 11. 10.

Advanced Optimization Algorithms Research참고 문헌 15인용 수 5

한 줄 요약

이 논문은 이차형식 시스템에 대한 정수형 프로그래밍(SDP) 타당성과 볼록각도화이자일리프레싱(CHR) 사이의 등가성을 확립하며, 이로 인해 기하학적 반복적 방법인 삼각형 알고리즘(△ Algorithm)을 이용해 SDP 문제를 해결할 수 있게 된다. 주요 기여는 내점점수법에 대한 잠재적으로 더 효율적인 새로운 대안을 제공하는 것으로, MAX-CUT 타당성 문제와 다항식 시스템에 대한 경험적 결과는 빠른 해답 시간을 보이며 유망한 성능을 보인다.

ABSTRACT

We show {\it semidefinite programming} (SDP) feasibility problem is equivalent to solving a {\it convex hull relaxation} (CHR) for a finite system of quadratic equations. On the one hand, this offers a simple description of SDP. On the other hand, this equivalence makes it possible to describe a version of the {\it Triangle Algorithm} for SDP feasibility based on solving CHR. Specifically, the Triangle Algorithm either computes an approximation to the least-norm feasible solution of SDP, or using its {\it distance duality}, provides a separation when no solution within a prescribed norm exists. The worst-case complexity of each iteration is computing the largest eigenvalue of a symmetric matrix arising in that iteration. Alternate complexity bounds on the total number of iterations can be derived. The Triangle Algorithm thus provides an alternative to the existing interior-point algorithms for SDP feasibility and SDP optimization. In particular, based on a preliminary computational result, we can efficiently solve SDP relaxation of {\it binary quadratic} feasibility via the Triangle Algorithm. This finds application in solving SDP relaxation of MAX-CUT. We also show in the case of testing the feasibility of a system of convex quadratic inequalities, the problem is reducible to a corresponding CHR, where the worst-case complexity of each iteration via the Triangle Algorithm is solving a {\it trust region subproblem}. Gaining from these results, we discuss potential extension of CHR and the Triangle Algorithm to solving general system of polynomial equations.

연구 동기 및 목표

• 이차형식 시스템에 대한 SDP 타당성과 볼록각도화이자일리프레싱(CHR) 사이의 이론적 등가성을 확립하는 것.
• 삼각형 알고리즘이 CHR 문제를 효율적으로 해결할 수 있음을 보여주어, SDP에 대한 내점점수법의 대안을 제공하는 것.
• 다항식 시간 복잡도 한계를 갖는 기하학적이고 쌍대 기반의 접근 방식을 통해 SDP 타당성과 최적화를 다루는 것.
• CHR 및 삼각형 알고리즘의 확장을 고차수 다항식 방정식 시스템으로 확장하는 것.
• 이중 이차형식 타당성 및 MAX-CUT 문제의 SDP 타당성 문제에 대해 경험적으로 접근 방법을 검증하는 것.

제안 방법

• 논문은 이차형식 시스템의 타당성을 볼록각도화이자일리프레싱(CHR)으로 재구성하며, 타당성은 이차형식의 이미지의 볼록결합에 오른쪽 항 벡터가 포함되는지 여부를 검증함으로써 테스트된다.
• CHR 문제를 해결하는 것이 SDP 타당성 문제를 해결하는 것과 동치임을 증명하며, 볼록결합에 최대 m+1개의 점이 포함된다는 사실을 이용해 양의 준정적 행렬 X를 유도한다.
• 삼각형 알고리즘을 사용하여 볼록각도화이자일리프레싱 내부의 소속 여부를 테스트하며, 거리 쌍대성(duality)을 이용해 근사해를 찾거나 분리 초평면을 제공한다.
• 삼각형 알고리즘의 각 반복은 대칭행렬의 최대 고유값을 구함으로써 피벗을 계산하며, 피벗 재사용을 통해 비용을 줄일 수 있다.
• 볼록 이차부등식 시스템의 경우 문제는 비동차 CHR로 축소되며, 각 반복은 최악의 경우 신뢰영역 하위문제를 해결해야 한다.
• 다항식 시스템의 경우 고차수 다항식의 최대값을 단위구면 상에서 다항형식의 최대값으로 고려함으로써 확장되며, 텐서 고유값 계산을 위한 고차수 힘법을 활용할 수 있다.

실험 결과

연구 질문

• RQ1 이차형식 시스템의 타당성은 오른쪽 항 벡터가 이차형식의 이미지 집합의 볼록각도화이자일리프레싱에 포함되는지 여부를 테스트하는 것과 동치인가?
• RQ2 삼각형 알고리즘이 이러한 시스템의 볼록각도화이자일리프레싱을 효과적으로 해결할 수 있으며, 내점점수법의 대안이 될 수 있는가?
• RQ3 CHR을 통한 SDP 타당성 문제에 삼각형 알고리즘을 적용할 때 각 반복의 최악의 시간 복잡도는 얼마인가?
• RQ4 CHR 및 삼각형 알고리즘 프레임워크는 차수 d ≥ 3인 동차 다항식 방정식 시스템으로 확장될 수 있는가?
• RQ5 MAX-CUT과 같은 조합 최적화 문제의 SDP 타당성 문제에 대해 삼각형 알고리즘의 성능은 기존 방법과 비교해 어떻게 되는가?

주요 결과

• 이차형식 시스템의 타당성은 오른쪽 항 벡터가 모든 m-튜플 (q₁(x), ..., qₘ(x))의 집합의 볼록각도화이자일리프레싱에 포함되는지 여부를 테스트하는 것과 동치이다. 여기서 x ∈ ℝⁿ이다.
• 볼록각도화이자일리프레싱(CHR)은 SDP로 재구성할 수 있으며, SDP의 타당해는 이미지 집합 내 최대 m+1개의 점의 볼록결합에 해당한다.
• 삼각형 알고리즘은 각 반복에서 다항식 시간 내에 CHR 문제를 해결할 수 있으며, 각 반복은 대칭행렬의 최대 고유값 계산이 필요하다. 이는 파워 방법으로 구현할 수 있다.
• 초기 계산 결과는 삼각형 알고리즘이 크기가 1000×1000 이하인 이중 이차형식 타당성 및 MAX-CUT 문제의 SDP 타당성 문제를 수초 내에 해결할 수 있음을 보여준다.
• 볼록 이차부등식 시스템의 경우 문제는 비동차 CHR로 축소되며, 최악의 경우 각 반복에서 신뢰영역 하위문제를 해결해야 한다.
• 이 프레임워크는 고차수 피벗을 텐서 방법을 통해 효율적으로 계산할 수 있다면 일반적인 동차 다항식 방정식 시스템을 CHR 및 삼각형 알고리즘을 통해 해결할 수 있는 길을 제시한다.