[논문 리뷰] Lower bounds on the size of semidefinite programming relaxations

James R. Lee, Prasad Raghavendra외 1명|arXiv (Cornell University)|2014. 11. 24.

Complexity and Algorithms in Graphs참고 문헌 38인용 수 6

한 줄 요약

이 논문은 컷, TSP, 안정집합 다각형을 포함한 명시적 다각형에 대해 초다항적 하한을 처음으로 확립하여, 이들 다각형은 어떤 $\theta > 0$ 에 대해 최소 $2^{n^{\theta}}$ 크기의 스펙트라헤드론이 필요하다고 보여준다. 또한 다항수준의 SDP 근사가 Max 3-SAT에 대해 $7/8$-근사 이하를 달성할 수 없음을 증명하고, Max-CSPs에 대해 모든 다항수준 SDP 가족 중에서 저차수의 제곱합 근사가 최적임을 보인다.

ABSTRACT

We introduce a method for proving lower bounds on the efficacy of semidefinite programming (SDP) relaxations for combinatorial problems. In particular, we show that the cut, TSP, and stable set polytopes on $n$-vertex graphs are not the linear image of the feasible region of any SDP (i.e., any spectrahedron) of dimension less than $2^{n^c}$, for some constant $c > 0$. This result yields the first super-polynomial lower bounds on the semidefinite extension complexity of any explicit family of polytopes. Our results follow from a general technique for proving lower bounds on the positive semidefinite rank of a matrix. To this end, we establish a close connection between arbitrary SDPs and those arising from the sum-of-squares SDP hierarchy. For approximating maximum constraint satisfaction problems, we prove that SDPs of polynomial-size are equivalent in power to those arising from degree-$O(1)$ sum-of-squares relaxations. This result implies, for instance, that no family of polynomial-size SDP relaxations can achieve better than a 7/8-approximation for MAX-3-SAT.

연구 동기 및 목표

• NP-난이도의 조합 최적화 문제에 대한 준선형계획법(SDP) 근사의 능력을 이해하는 데 있어 선형계획법(LP) 근사와의 비교에서 발생하는 격차를 메우기 위해.
• 기본적인 다각형, 예를 들어 컷, TSP, 안정집합 다각형과 같은 다각형에 대해, 소형의 스펙트라헤드론 리프트를 요구하는 SDP 근사의 크기에 대한 강력한 하한을 확립하기 위해.
• 모든 다항수준 SDP 근사가 Max 3-SAT에 대해 $7/8$-근사 이하를 달성할 수 없음을 보여주며, 이는 임의의 SDP 공식화를 허용하더라도 더 나은 근사가 불가능함을 의미한다.
• 모든 다항수준 SDP 가족 중에서 저차수의 제곱합 근사가 Max-CSPs에 대해 최적임을 증명하기 위해, 임의의 SDP를 제곱합 계층 구조와 연결함으로써.
• 양자정보 이론과 허위밀도 학습의 연결을 활용하여, 정규화된 정방형 랭크에 대한 하한을 증명하는 일반적인 방법을 개발하기 위해.

제안 방법

• 양자 엔트로피 최대화와 행렬 곱셈 가중치 업데이트 방법을 활용하여, 임의의 소형 SDP 근사와 저차수 제곱합(SOS) 근사 간의 관계를 설정하는 새로운 프레임워크를 도입한다.
• 양자정보 이론의 기법을 적용하여, 정규화된 정방형 랭크와 조합 함수(저차수 함수)에 의한 근사 정도 간의 연결을 활용해, SDP 공식화의 복잡도에 대한 하한을 확립한다.
• 특히 허위밀도와 양자 학습 개념을 활용하여, 고정된 SDP 랭크를 증명하는 분리 함수를 구성한다.
• 차수 감소 기법을 적용하여, 임의의 소형 SDP 근사가 저차수 SOS 근사로 근사될 수 있음을 보여, Max-CSPs에 대해 SOS의 최적성 증명한다.
• SDP 근사의 정수성 갭과 유니크 게임 추측 하에의 난이도 증명 간의 등가성을 활용하여 강력한 하한을 유도한다.
• 비음수 랭크 하한을 증명하기 위해 룩소드 유니크 디스조인티스 문제의 일반화를 적용하며, 이는 이중성과 인수분해 기법을 통해 정규화된 정방형 랭크로 이전된다.

실험 결과

연구 질문

• RQ1 TSP와 안정집합 다각형과 같은 기초 조합 다각형에 대해, 소형 SDP 근사의 크기에 대해 초다항 하한을 증명할 수 있는가?
• RQ2 Max 3-SAT와 같은 Max-CSPs에 대해, 다항수준의 SDP 근사가 달성할 수 있는 근사 품질에 기본적인 한계가 존재하는가?
• RQ3 Max-CSPs에 대해 모든 다항수준 SDP 가족 중에서 저차수 제곱합 근사가 최적인가?
• RQ4 허위밀도 학습의 맥락에서, 행렬의 정규화된 정방형 랭크와 조합 함수에 의한 근사 정도 간의 관계는 무엇인가?
• RQ5 제곱합 계층 구조가 모든 다항수준 SDP 근사의 계산 능력을 특징지울 수 있는가?

주요 결과

• n-정점 그래프에서의 컷, TSP, 안정집합 다각형은 어떤 $\theta > 0$ 에 대해 최소 $2^{n^{\theta}}$ 크기의 스펙트라헤드론 리프트가 필요하며, 이는 SDP 확장 복잡도에 대한 최초의 초다항 하한을 확립한다.
• Max 3-SAT에 대해 모든 다항수준 SDP 근사 가족은 $7/8$-근사 이하를 달성할 수 없으며, 이는 소형 SDP로 더 나은 근사를 달성할 수 없는 기본적인 장벽을 보여준다.
• 모든 Max-CSPs에 대해, 저차수 제곱합 근사는 모든 다항수준 SDP 가족 중에서 최적임을 의미하며, 다른 어떤 SDP 공식화도 더 나은 근사 비율을 달성할 수 없다.
• 모든 소형 SDP 근사가 상수 차수의 제곱합 근사로 근사될 수 있음을 보여, 일반적인 SDP와 저차수 SOS 근사 간의 근사 목적에서의 동등성을 증명한다.
• 유니크 디스조인티스 문제와 관련된 행렬의 비음수 랭크는 $\left(\frac{cn}{m^3 \log n}\right)^{m/2}$ 이상이며, 이는 유니크 게임에 대한 LP 근사의 복잡도에 대해 강력한 하한을 암시한다.
• 양자정보 이론적 도구인 허위밀도와 행렬 곱셈 가중치 업데이트를 활용하여, 조합 함수에 의한 근사 정도와 연결된 정규화된 정방형 랭크에 대한 하한을 증명하는 일반적인 방법을 개발하였다.