[논문 리뷰] On Difference-of-SOS and Difference-of-Convex-SOS Decompositions for Polynomials

Yi-Shuai Niu, Thi, Hoai An Le외 1명|arXiv (Cornell University)|2018. 03. 27.

Advanced Optimization Algorithms Research참고 문헌 38인용 수 4

한 줄 요약

이 논문은 다변수 다항식에 대한 차분-제곱합(D-SOS) 및 차분-볼록-제곱합(DC-SOS) 분해를 소개하며, 비볼록 다항식 최적화 문제를 DC 프로그래밍으로 재구성할 수 있도록 한다. 제안된 방법들은 충분히 효율적인 세미정규행렬 프로그래밍 또는 직접적인 대수적 알고리즘을 통해 해결이 가능하며, 포트폴리오 최적화, 행렬 완성, 부울 프로그래밍 등에 적용된다.

ABSTRACT

In this article, we are interested in developing polynomial decomposition techniques based on sums-of-squares (SOS), namely the difference-of-sums-of-squares (D-SOS) and the difference-of-convex-sums-of-squares (DC-SOS). In particular, the DC-SOS decomposition is very useful for difference-of-convex (DC) programming formulation of polynomial optimization problems. First, we introduce the cone of convex-sums-of-squares (CSOS) polynomials and discuss its relationship to the sums-of-squares (SOS) polynomials, the non-negative polynomials and the SOS-convex polynomials. Then, we propose the set of D-SOS and DC-SOS polynomials, and prove that any polynomial can be formulated as D-SOS and DC-SOS. The problem of finding D-SOS and DC-SOS decompositions can be formulated as a semi-definite program and solved for any desired precision in polynomial time using interior point methods. Some algebraic properties of CSOS, D-SOS and DC-SOS are established. Second, we focus on establishing several practical algorithms for exact D-SOS and DC-SOS polynomial decompositions without solving any SDP. The numerical performance of the proposed D-SOS and DC-SOS decomposition algorithms and their parallel versions, tested on a dataset of 1750 randomly generated polynomials, is reported.

연구 동기 및 목표

• 모든 실수 다항식을 차분-제곱합(D-SOS) 또는 차분-볼록-제곱합(DC-SOS)으로 표현하는 대수적 분해 기법을 개발하는 것.
• D-SOS 및 DC-SOS 다항식의 집합이 모든 실수 다항식의 공간과 동치인 벡터 공간을 이룬다는 것을 확립하는 것.
• 최소 차수 성분을 갖는 D-SOS 및 DC-SOS 분해를 구성하기 위한 실용적이고 SDP 기반 외의 알고리즘을 제공하는 것.
• 다항식 최적화 문제를 DC 프로그래밍 프레임워크로 재구성하여 효율적인 수치적 해법을 가능하게 하는 것.
• 이러한 분해가 실세계 응용 분야, 예를 들어 모멘트 포트폴리오 최적화, 고유값 보완성 문제, 부울 다항식 프로그래밍 등에서의 유용성을 입증하는 것.

제안 방법

• D-SOS 및 DC-SOS 다항식의 집합이 벡터 공간을 이루며, 모든 실수 다항식의 공간과 동치임을 증명하는 것.
• D-SOS 및 DC-SOS 분해를 찾는 것이 세미정규행렬 프로그래밍(SDP)을 푸는 것과 동치임을 보이며, 이는 임의의 정밀도로 다항식 시간 내에 해결 가능하다는 것을 의미한다.
• SDP를 풀지 않고도 D-SOS 및 DC-SOS 분해를 구성할 수 있는 실용적인 비-SDP 알고리즘—MD-DCSOS 및 FMD-DCSOS—를 제안하는 것.
• 스펙트럼 분해 기법을 사용하여 지배되지 않는(D-spectral) D-SOS 분해를 생성함으로써, DC 알고리즘에서의 수렴성을 향상시키는 것.
• 거듭제곱 행렬을 사용하여 짝수 차수 동차 다항식에 대해 CSOS 다항식 기저를 구성함으로써, 제곱 수의 수가 지수적 성장보다 느린(부지수적 성장) 방식으로 효율적인 DC-SOS 표현을 가능하게 하는 것.
• DCA 및 Lasserre의 SDP 완화 기법과 DC-SOS 분해를 통합하여 다항식 최적화에서 국소 최소해의 품질을 향상시키는 것.

실험 결과

연구 질문

• RQ1 모든 실수 다변수 다항식은 차분-제곱합(D-SOS) 다항식의 차분으로 분해될 수 있으며, 이 분해는 유일하거나 구조적으로 제약을 받는가?
• RQ2 세미정규행렬 프로그래밍을 풀지 않고도 D-SOS 및 DC-SOS 분해를 구성할 수 있으며, 이러한 대수적 방법의 계산적 이점은 무엇인가?
• RQ3 SOS, PSD, 볼록-SOS, SOS-볼록, D-SOS, DC-SOS 다항식 집합 간의 관계는 무엇이며, 다항식 최적화와의 관계는 어떠한가?
• RQ4 지배되지 않는(DC-SOS) 분해는 체계적으로 생성될 수 있으며, 이는 DCA의 수렴성에 어떤 영향을 미치는가?
• RQ5 짝수 차수 동차 다항식에 대해 제곱 수가 지수적 성장보다 느리게 증가하는 CSOS 기저를 구성할 수 있으며, 이는 효율적인 DC-SOS 표현을 가능하게 하는가?

주요 결과

• D-SOS 및 DC-SOS 다항식의 집합은 벡터 공간을 이루며, 모든 실수 다항식의 공간과 동치이다.
• D-SOS 및 DC-SOS 분해 문제는 세미정규행렬 프로그래밍(SDP)과 동치이며, 임의의 정밀도로 다항식 시간 내에 해결 가능하다.
• 최소 차수 성분을 갖는 D-SOS 및 DC-SOS 분해를 구성하기 위한 실용적인 비-SDP 기반 알고리즘—MD-DCSOS 및 FMD-DCSOS—가 개발되었다.
• 1750개의 합성 다항식(희박 및 조밀, 크고 작은)에 대한 수치 실험을 통해 제안된 분해 알고리즘과 그 병렬화된 변형의 효율성과 확장성을 확인하였다.
• 스펙트럼 D-SOS 분해는 지배되지 않는 D-SOS 분해를 생성하며, 이는 DCA 기반 솔버에서의 수렴성 향상에 유리하다.
• 거듭제곱 행렬을 사용한 CSOS 기저 구성 방법을 제안하였으며, 제곱 수의 수가 지수적 성장보다 느리게 증가할 가능성이 있음을 보였으며, 이는 짝수 차수 동차 다항식에 대한 효율적인 DC-SOS 표현을 가능하게 한다.