[논문 리뷰] TSSOS: A Moment-SOS hierarchy that exploits term sparsity

Jie Wang, Victor Magron외 1명|arXiv (Cornell University)|2019. 12. 18.

Advanced Optimization Algorithms Research참고 문헌 32인용 수 18

한 줄 요약

이 논문은 다항식 최적화에서 항의 희소성(terms sparsity)을 활용하여 연결된 성분의 반복 완성을 통해 블록 대각(semidefinite programs)을 구성하는 새로운 moment-SOS 계층인 TSSOS를 소개한다. 이는 전역 수렴성을 유지하면서도 계산 속도를 크게 향상시키며, 임의로 생성된 문제와 애플리케이션 기반 문제에서 표준 및 희소 SOS 계층보다 뛰어난 성능을 보인다.

ABSTRACT

This paper is concerned with polynomial optimization problems. We show how to exploit term (or monomial) sparsity of the input polynomials to obtain a new converging hierarchy of semidefinite programming relaxations. The novelty (and distinguishing feature) of such relaxations is to involve block-diagonal matrices obtained in an iterative procedure performing completion of the connected components of certain adjacency graphs. The graphs are related to the terms arising in the original data and not to the links between variables. Our theoretical framework is then applied to compute lower bounds for polynomial optimization problems either randomly generated or coming from the networked systems literature.

연구 동기 및 목표

• 표준 moment-SOS 계층이 SDP 행렬 크기가 급격히 증가함에 따라 발생하는 확장성 한계를 해결한다.
• 변수 기반 상호관계 희소성과는 다를 바 있는 항(단항식) 기반 희소성(terms sparsity)을 활용하여, 수렴 보장을 유지하면서도 SDP 타월의 크기를 줄인다.
• 항 기반 인접 그래프의 연결된 성분을 반복적으로 완성함으로써 블록 대각 행렬을 구성하는 새로운 계층을 개발한다.
• 임의의 다항식 최적화 문제와 실제 응용 문제에서 표준 및 기존의 희소 SOS 방법과 비교해 계산상의 이점을 입증한다.
• 이전에는 비제약 또는 특정 구조적 경우에 국한되었던 항 희소성의 적용 범위를 제약 다항식 최적화로 확장한다.

제안 방법

• 입력 다항식 내 공통의 단항식 항을 기반으로 인접 그래프를 구성하며, 노드는 단항식을 나타내고, 간선은 동일한 다항식 내 공존을 나타낸다.
• 이러한 그래프의 연결된 성분을 반복적으로 완성하여 순간 행렬과 국소화 행렬의 블록 구조를 정의한다.
• SDP 행렬이 연결된 성분의 인접 그래프 기반으로 블록 대각 구조를 가지는 새로운 moment-SOS 계층을 제안한다.
• 약한 가정 하에 표준 moment-SOS 계층의 수렴 보장을 유지함으로써 전역 수렴을 보장한다.
• 단항식 지지 집합을 블록에 매핑하는 재색인戦략을 사용하여, 더 작은 독립적인 부분문제로 효율적인 SDP 해를 도모한다.
• 네트워크 기반 시스템 및 임의의 다항식 인스턴스를 포함한 비제약 및 제약 다항식 최적화 문제에 이 방법을 적용한다.

실험 결과

연구 질문

• RQ1 다항식의 단항식 구조에서의 항 희소성은 moment-SOS 계층의 SDP 타월 크기를 체계적으로 줄이기 위해 어떻게 활용될 수 있는가?
• RQ2 항 인접 그래프의 연결된 성분에 기반한 블록 대각 SDP 공식화는 moment-SOS 계층의 전역 수렴성을 유지하는가?
• RQ3 제안된 TSSOS 계층은 표준 및 변수 기반 희소 SOS 계층과 비교해 해결 시간과 정확도 측면에서 어떻게 성능을 내는가?
• RQ4 제약 다항식 최적화 문제에서 항 희소성은 계산 복잡도를 어느 정도 감소시킬 수 있는가?
• RQ5 TSSOS 프레임워크는 최적 제어나 비가환 변수를 위한 다른 moment-SOS 계층 변형으로 확장될 수 있는가?

주요 결과

• TSSOS는 표준 및 기존의 희소 SOS 계층에 비해 뚜렷한 속도 향상을 보이며, 특정 테스트 인스턴스에서 계산 시간을 최대 90%까지 줄였다.
• $(n,2d,s) = (11,6,20)$ 인 문제 인스턴스 $ H_6 $에서 TSSOS는 블록 $(356,104)$를 사용해 389초 만에 해결했고, GloptiPoly는 1108초 내로 수렴하지 못했다.
• $(n,2d,s) = (10,6,20)$ 인 비제약 문제 $ H_5 $에서 TSSOS는 블록 크기 $(274,92)$로 77초 만에 해를 구했고, GloptiPoly는 181초가 소요되었다.
• 모든 TSSOS 타월이 표준 계층과 동일한 최적값을 달성함으로써 전역 수렴성과 최적성 보장을 유지한다.
• TSSOS 행렬의 블록 대각 구조는 고차수 다항식에서 단항식 지지가 희소한 경우 특히 우수한 수치적 조건과 메모리 사용 감소를 이끌어낸다.
• 제약 조건이 있는 경우, TSSOS는 모든 테스트 인스턴스에서 GloptiPoly를 능가했으며, 문제 크기와 희소성 패턴에 따라 2배에서 10배 이상의 속도 향상을 보였다.