[논문 리뷰] Exponential lower bounds on fixed-size psd rank and semidefinite extension complexity

Hamza Fawzi, Pablo A. Parrilo|arXiv (Cornell University)|2013. 11. 11.

Complexity and Algorithms in Graphs참고 문헌 12인용 수 5

한 줄 요약

이 논문은 고정된 블록 크기 $d$를 가진 블록 대각 양의 준정부호 원소 $({\bf S}^d_+)^r$ 위에서 특정 클래스의 준정부호 계획 문제에 대해 지수적 하한을 설정한다. 매트릭스 희소성 패턴에 관한 새로운 결과와 Kaibel 및 Weltge의 영감을 받은 귀납적 추론을 사용하여, 저자들은 이 설정에서 컷 폴리토프가 지수적으로 큰 표현을 필요로 함을 증명한다. 이는 Fiorini 등이 제시한 선형계획법 하한을 일반화하며, $d=2$인 경우 두 번째 순서 원뿔 표현이 작은 형태로 존재하지 않음을 배제한다. 주요 기여는 고정 크기의 SDP 릿지에 대해 강력한 지수적 하한을 확립함으로써, 조합 최적화 문제에 대한 구조화된 SDP 표현의 본질적 한계를 드러내는 데 있다.

ABSTRACT

There has been a lot of interest recently in proving lower bounds on the size of linear programs needed to represent a given polytope P. In a breakthrough paper Fiorini et al. [Proceedings of 44th ACM Symposium on Theory of Computing 2012, pages 95-106] showed that any linear programming formulation of maximum-cut must have exponential size. A natural question to ask is whether one can prove such strong lower bounds for semidefinite programming formulations. In this paper we take a step towards this goal and we prove strong lower bounds for a certain class of SDP formulations, namely SDPs over the Cartesian product of fixed-size positive semidefinite cones. In practice this corresponds to semidefinite programs with a block-diagonal structure and where blocks have constant size d. We show that any such extended formulation of the cut polytope must have exponential size (when d is fixed). The result of Fiorini et al. for LP formulations is obtained as a special case when d=1. For blocks of size d=2 the result rules out any small formulations using second-order cone programming. Our study of SDP lifts over Cartesian product of fixed-size positive semidefinite cones is motivated mainly from practical considerations where it is well known that such SDPs can be solved more efficiently than general SDPs. The proof of our lower bound relies on new results about the sparsity pattern of certain matrices with small psd rank, combined with an induction argument inspired from the recent paper by Kaibel and Weltge [arXiv:1307.3543] on the LP extension complexity of the correlation polytope.

연구 동기 및 목표

• 선형계획법 확장 복잡도에 대한 지수적 하한을 준정부호 계획 형식으로 확장하는 것.
• 고정된 $d$에 대해 $({\bf S}^d_+)^r$ 위에서 블록 대각 구조를 가진 준정부호 계획의 표현 능력을 분석하는 것.
• 특히 효율적인 계산이 가능한지 여부를 고려하여 컷 폴리토프에 대해 작은 준정부호 표현이 존재하는지 판단하는 것.
• 고정된 블록 크기의 구조화된 SDP가 컷 폴리토프에 대해 다항식 크기의 표현을 제공할 수 없는지 확인하는 것.
• Fiorini 등이 제시한 선형계획법 하한 프레임워크를 psd 랭크와 희소성 패턴 분석을 통해 SDP 설정으로 일반화하는 것.

제안 방법

• 저자들은 통신 복잡도에서 핵심적인 역할을 하는 유일한 이산성 매트릭스 $\operatorname{UDISJ}(n)$ 의 psd 랭크를 분석한다.
• 블록 구조에 기반한 재귀적 분해를 사용하여, $({\bf S}^d_+)^r$ 위에서 psd 랭크가 최대 $d$인 $n \times n$ 비음수 매트릭스 $M$ 의 값을 상한으로 도출한다.
• 핵심적인 기술적 구성 요소는 작은 psd 랭크를 가진 매트릭스의 희소성 패턴에 관한 레마로, 특정한 0 패턴이 인수 분해의 지지 집합을 제약함을 보여준다.
• Kaibel 및 Weltge의 선형계획법 확장 복잡도 작업에서 영감을 얻은 귀납적 추론을 사용하여, 블록 구조 내에서 비제로 요소를 커버하는 데 필요한 사각형의 수를 제한한다.
• 만약 어떤 $a$에 대해 $M_{a,\bar{a}} = 0$ 이면, 해당 인수 분해 성분이 특정한 핵과 이미지 포함 조건을 만족해야 한다는 사실을 활용한다.
• 주요 하한은 값의 상한과 기존의 지수적 값인 $\operatorname{UDISJ}(n)$ 을 결합하여 도출되며, 이는 psd 랭크에 대한 지수적 하한을 이끈다.

실험 결과

연구 질문

• RQ1 선형계획법 확장 복잡도에 대한 지수적 하한을, 블록 대각 제약 조건이 있는 준정부호 계획 형식으로 확장할 수 있는가?
• RQ2 고정된 상수 $d$일 때, 컷 폴리토프에 대한 $({\bf S}^d_+)^r$ 위의 준정부호 표현의 최소 크기는 얼마인가?
• RQ3 SDP의 블록 대각 구조는 효율적인 계산을 가능하게 하지만, 어려운 조합 최적화 폴리토프에 대해 다항식 크기의 표현을 가능하게 하는가?
• RQ4 $d$ 가 고정된 상태에서, $n$ 에 따라 $\operatorname{UDISJ}(n)$ 의 psd 랭크는 어떻게 증가하는가?
• RQ5 선형계획법 확장 복잡도에 사용된 기법들을 준정부호 계획 설정에서 강력한 하한을 증명하기 위해 적응시킬 수 있는가?

주요 결과

• 모든 고정된 $d \geq 1$ 에 대해, 유일한 이산성 매트릭스 $\operatorname{UDISJ}(n)$ 의 psd 랭크는 $\operatorname{rank}_{{\bf S}^d_+}(\operatorname{UDISJ}(n)) \geq \frac{1}{(3^d - 1)^{1 - 1/d}} \left( \left(1 - 3^{-d}\right)^{-1/d} \right)^n$ 를 만족하며, 이는 $n$ 에 따라 지수적으로 증가한다.
• 완전 그래프 $K_n$ 의 컷 폴리토프는 고정된 $d$ 에 대해 $({\bf S}^d_+)^r$ 위에서의 준정부호 계획에 제약을 받을 경우, 크기가 $n$ 에 대해 지수적으로 증가하는 확장 표현을 필요로 한다. 이는 $d=1$ 일 때 Fiorini 등이 제시한 선형계획법 하한을 일반화한다.
• $d=2$ 일 경우 하한은 $\operatorname{rank}_{{\bf S}^2_+}(\operatorname{UDISJ}(n)) \geq \frac{1}{\sqrt{8}} \left( \sqrt{\frac{9}{8}} \right)^n$ 를 얻으며, 이는 제2차 원뿔 프로그래밍이 작은 표현을 제공할 수 없음을 보여준다.
• $({\bf S}^d_+)^r$ 위에서 psd 랭크가 최대 $d$인 $n \times n$ 비음수 매트릭스 $M$ 의 값은 $(3^d - 1)^{\lfloor(n-1)/d\rfloor + 1}$ 이하로 제한되며, 고정된 $d$ 에 대해 $n$ 에 대해 지수적 하한이 아니다.
• 증명은 $M_{a,\bar{a}} = 0$ 이면 해당 인수 분해 매트릭스가 특정한 핵과 이미지 포함 조건을 만족해야 한다는 새로운 희소성 패턴 레마에 의존하며, 이는 비제로 요소를 커버할 수 있는 수를 제한한다.
• 결과는 고정된 블록 크기의 구조화된 SDP가 조합 최적화 문제에 대해 효율적으로 컷 폴리토프를 표현할 수 없음을 시사하며, 어려운 조합 문제에 대한 효율적 SDP 표현의 본질적 장벽을 드러낸다.