[논문 리뷰] Lifting Sum-of-Squares Lower Bounds: Degree-$2$ to Degree-$4$

Sidhanth Mohanty, Prasad Raghavendra외 1명|arXiv (Cornell University)|2019. 11. 04.

Tensor decomposition and applications참고 문헌 35인용 수 5

한 줄 요약

이 논문은 부울 변수에 대해 차수 2의 Sum-of-Squares (SoS) 가짜기대값을 차수 4의 SoS 해로 변환하는 새로운 리프팅 기법을 소개한다. 이는 차수 2에서의 하한을 차수 4의 SoS 완화로 이전하는 데 기여하며, 그래픽 행렬에 대한 스펙트럴 노름 유계 기법을 통해 트레이스 방법보다 더 날카운 하한을 도출한다. 이는 무작위 d-정규 그래프에서 MaxCut과 Sherrington-Kirkpatrick 모델에 대해 명시적인 정수성 갭 하한을 제공한다.

ABSTRACT

The degree-$4$ Sum-of-Squares (SoS) SDP relaxation is a powerful algorithm that captures the best known polynomial time algorithms for a broad range of problems including MaxCut, Sparsest Cut, all MaxCSPs and tensor PCA. Despite being an explicit algorithm with relatively low computational complexity, the limits of degree-$4$ SoS SDP are not well understood. For example, existing integrality gaps do not rule out a $(2-\varepsilon)$-algorithm for Vertex Cover or a $(0.878+\varepsilon)$-algorithm for MaxCut via degree-$4$ SoS SDPs, each of which would refute the notorious Unique Games Conjecture. We exhibit an explicit mapping from solutions for degree-$2$ Sum-of-Squares SDP (Goemans-Williamson SDP) to solutions for the degree-$4$ Sum-of-Squares SDP relaxation on boolean variables. By virtue of this mapping, one can lift lower bounds for degree-$2$ SoS SDP relaxation to corresponding lower bounds for degree-$4$ SoS SDPs. We use this approach to obtain degree-$4$ SoS SDP lower bounds for MaxCut on random $d$-regular graphs, Sherington-Kirkpatrick model from statistical physics and PSD Grothendieck problem. Our constructions use the idea of pseudocalibration towards candidate SDP vectors, while it was previously only used to produce the candidate matrix which one would show is PSD using much technical work. In addition, we develop a different technique to bound the spectral norms of _graphical matrices_ that arise in the context of SoS SDPs. The technique is much simpler and yields better bounds in many cases than the _trace method_ -- which was the sole technique for this purpose.

연구 동기 및 목표

• 차수 4의 Sum-of-Squares (SoS) SDP 완화의 한계를 이해하는 데 있어 아직 해결되지 않은 문제를 메우기 위해, 최첨단 알고리즘을 포괄하는 데 강력한데도 불구하고 여전히 미해결인 문제를 해결한다.
• 부울 변수에 대해 차수 2 SoS 해를 차수 4 SoS 해로 체계적으로 리프팅하는 방법을 개발하여 하한 이전을 가능하게 한다.
• 트레이스 방법보다 우월한 새로운 스펙트럴 노름 유계 기법을 도입하여 그래픽 행렬의 스펙트럴 노름을 더 날카운 하한으로 유도한다.
• 리프팅 프레임워크를 사용하여 무작위 d-정규 그래프에서 MaxCut과 Sherrington-Kirkpatrick 스핀 거품 모델에 대해 명시적인 정수성 갭 하한을 확립한다.
• 일부 조건 하에서 무작위 d-정규 그래프에서 차수 4 SoS SDP가 MaxCut에 대해 (1/2 + √(d−1)/d) 이하의 근사 비율을 달성할 수 없음을 보여준다.

제안 방법

• 부울 변수에 대해 차수 2 가짜기대값에서 차수 4 가짜기대값으로의 리프팅 맵을 제안하며, 비음성과 목적 함수 값의 구조를 유지한다.
• 허위보정을 사용하여 후보 SDP 벡터와 행렬을 구성하고, 이를 행렬 구성 초과하여 전체 해 리프팅까지 확장한다.
• 그래픽 행렬을 분해하고 스펙트럴 노름을 트레이스 방법보다 효과적으로 유계화하기 위해 글리프 분해 기법을 도입한다.
• 무작위 d-정규 그래프의 스펙트럴 갭에 대한 프리드먼의 정리를 적용하여 고유값 집중을 통제하고, 변형된 행렬의 노름을 유계화한다.
• 리프팅된 가짜기대값과 결과로 생긴 모멘트 행렬의 스펙트럴 노름 유계를 조합하여 차수 4 SoS 해를 구성한다.
• 측도 집중과 그래프 구조(예: 백트래킹 다항식)를 활용하여 리프팅된 해가 고도로 확률적으로 모든 SoS 제약 조건을 만족함을 보장한다.

실험 결과

연구 질문

• RQ1 부울 최적화 문제에 대해 차수 2 SoS 하한을 체계적으로 차수 4 SoS 완화로 리프팅할 수 있는가?
• RQ2 특히 트레이스 방법이 실패할 경우, SoS SDP에서 발생하는 그래픽 행렬의 스펙트럴 노름을 유계화하기 위해 어떤 새로운 기법이 필요한가?
• RQ3 리프팅 프레임워크는 무작위 d-정규 그래프에서 MaxCut과 Sherrington-Kirkpatrick 모델에 대해 명시적인 정수성 갭 하한을 생성할 수 있는가?
• RQ4 무작위 d-정규 그래프에서 차수 4 SoS SDP가 MaxCut에 대해 (1/2 + √(d−1)/d) 이하의 근사 비율을 달성하지 못하는 정도는 어느 정도인가?
• RQ5 허위보정은 행렬 구성 초과하여 증명 가능한 유계를 갖는 전체 SoS 해 리프팅을 확장할 수 있는가?

주요 결과

• 논문은 무작위 d-정규 그래프에서 MaxCut에 대해 차수 4 SoS 해를 구성하였으며, 목적 함수 값이 최소 (1−2ε−γ(ε)/√d)²√(d−1)n 이상임을 보였다. 여기서 γ(ε)는 ε에만 의존하는 상수이다.
• 모든 상수 ε>0에 대해, 무작위 d-정규 그래프에 대해 고도로 확률적으로, 차수 4 SoS 완화의 MaxCut 값은 최소 1/2 + √(d−1)/d (1−2ε−γ(ε)/√d) 이상이며, 이는 비자명한 정수성 갭임을 보여준다.
• 새로운 글리프 분해와 스펙트럴 노름 유계 기법을 사용하여, 리프팅된 모멘트 행렬의 스펙트럴 노름이 ε에 의존하는 상수로 유계지어졌으며, 이는 트레이스 방법보다 뛰어난 성능을 보였다.
• 리프팅 프레임워크는 성공적으로 차수 2 SoS에서 차수 4 SoS로 하한을 이전하였으며, 차수 4에서 무작위 d-정규 그래프에서 MaxCut에 대해 처음으로 명시적인 정수성 갭 구성이 가능함을 보여주었다.
• 이 방법은 Sherrington-Kirkpatrick 해밀토니언에 대해 차수 4 SoS 하한을 도출하였으며, 이는 프레임워크가 MaxCut 초과의 적용 가능성을 보여준다.
• 분석 결과, 유일성 게임 추측을 가정할 경우, 차수 4 SoS SDP는 MaxCut에 대해 (0.878+ε)-근사 또는 Vertex Cover에 대해 (2−ε)-근사를 달성할 수 없다.