[논문 리뷰] Approximability and proof complexity

Ryan O’Donnell, Yuan Zhou|arXiv (Cornell University)|2012. 11. 08.

Complexity and Algorithms in Graphs인용 수 4

한 줄 요약

이 논문은 유계 차수의 제곱합(SOS) 증명이 두 가지 유명한 난이도 높은 최적화 문제에 대해 near-optimal 해를 효율적으로 증명할 수 있음을 입증한다: Devanur 등이 제시한 정수계획법의 이질성 간격(instance)에서의 Balanced-Separator와 Khot–Vishnoi 고유게임 구성에서 유도된 Max-Cut 문제이다. degree-4 SOS 증명이 Devanur 등이 제시한 정수계획법의 이질성 간격에서 좋은 균형 잡힌 컷이 존재하지 않음을 반증하며, Khot–Vishnoi 인스턴스에 대해 상수 차수의 SOS 증명이 진짜 Max-Cut 최적값의 95.2% 이내의 값을 증명한다. 이는 새로운 형태의 KKL 정리에 대한 SOS 증명을 활용한 결과이다.

ABSTRACT

This work is concerned with the proof-complexity of certifying that optimization problems do \emph{not} have good solutions. Specifically we consider bounded-degree "Sum of Squares" (SOS) proofs, a powerful algebraic proof system introduced in 1999 by Grigoriev and Vorobjov. Work of Shor, Lasserre, and Parrilo shows that this proof system is automatizable using semidefinite programming (SDP), meaning that any $n$-variable degree-$d$ proof can be found in time $n^{O(d)}$. Furthermore, the SDP is dual to the well-known Lasserre SDP hierarchy, meaning that the "$d/2$-round Lasserre value" of an optimization problem is equal to the best bound provable using a degree-$d$ SOS proof. These ideas were exploited in a recent paper by Barak et al.\ (STOC 2012) which shows that the known "hard instances" for the Unique-Games problem are in fact solved close to optimally by a constant level of the Lasserre SDP hierarchy. We continue the study of the power of SOS proofs in the context of difficult optimization problems. In particular, we show that the Balanced-Separator integrality gap instances proposed by Devanur et al.\ can have their optimal value certified by a degree-4 SOS proof. The key ingredient is an SOS proof of the KKL Theorem. We also investigate the extent to which the Khot--Vishnoi Max-Cut integrality gap instances can have their optimum value certified by an SOS proof. We show they can be certified to within a factor .952 ($> .878$) using a constant-degree proof. These investigations also raise an interesting mathematical question: is there a constant-degree SOS proof of the Central Limit Theorem?

연구 동기 및 목표

• 최적화 문제에 좋은 해가 존재하지 않음을 증명하는 데에 있어, 유계 차수의 제곱합(SOS) 증명의 능력을 조사하는 것.
• Balanced-Separator 및 Max-Cut 문제에 대해 알려진 난이도 높은 인스턴스들이 효율적인 SOS 반증을 허용하는지 확인하는 것.
• KKL 정리가 차수-4 SOS 증명을 갖는다는 것을 입증하고, 이를 통해 정수계획법의 이질성 간격을 증명하는 데에 활용하는 것.
• Khot–Vishnoi Max-Cut 인스턴스가 상수 차수의 SOS 증명을 통해 어느 정도까지 증명될 수 있는지 분석하는 것.
• 상수 차수의 SOS 증명이 중심극한정리에 대해 존재하는지에 대한 보다 광범위한 수학적 질문을 탐구하는 것.

제안 방법

• Lasserre SDP 계층 구조와 유계 차수의 SOS 증명 간의 이중성을 활용하여 증명의 강도를 분석한다.
• 새로운 KKL 정리에 대한 SOS 증명을 적용하여, degree-4 SOS를 사용해 Balanced-Separator 인스턴스의 이질성 간격을 증명한다.
• KKMO 축소를 통해 고유게임 인스턴스를 Max-Cut 인스턴스로 변환하고, 그들의 SOS 반증 가능성 분석을 수행한다.
• 기대 레이블 일致도를 통한 局소 일致성 추론을 활용하여, 최소 ε 이상의 분수 할당 값을 갖는 경우 degree-d SOS 반증을 유도한다.
• 다항식 항등식과 차수 제한된 SOS 추론을 조합하여 SDP 근사에서 오차 항을 제한한다.
• 이중성과 다항식 부등식을 활용하여, 분수 할당 값이 최소 ε 이상일 경우 Khot–Vishnoi 인스턴스에 대해 degree-Õ(1/δ²) SOS 반증을 유도한다.

실험 결과

연구 질문

• RQ1 Devanur 등이 제시한 Balanced-Separator의 이질성 간격 인스턴스가 낮은 차수의 SOS 증명을 통해 좋은 해가 존재하지 않음을 증명할 수 있는가?
• RQ2 KKL 정리는 유계 차수의 SOS 증명을 갖는가? 그리고 이는 최적화 문제의 이질성 간격을 증명하는 데에 활용될 수 있는가?
• RQ3 Khot–Vishnoi Max-Cut 이질성 간격 인스턴스가 상수 차수의 SOS 증명을 통해 어느 정도까지 증명될 수 있는가?
• RQ4 중앙극한정리에 대해 상수 차수의 SOS 증명이 존재하는가? 그리고 이는 증명 복잡성에 어떤 영향을 미치는가?
• RQ5 주어진 Max-Cut 인스턴스의 최적값이 진짜 최적값으로부터 멀리 떨어져 있음을 증명하기 위해 필요한 최소 SOS 차수는 얼마인가?

주요 결과

• degree-4 SOS 증명을 통해 Devanur 등이 제시한 Balanced-Separator 인스턴스의 최적값이 이질성 간격을 초월함을 증명할 수 있으며, 이는 핵심 열린 문제를 해결한다.
• KKL 정리는 차수-4 SOS 증명을 갖는다. 이는 Balanced-Separator 인스턴스의 난이도를 증명하는 데 핵심적인 역할을 한다.
• ρ₀ ≈ −0.689 인 Khot–Vishnoi Max-Cut 인스턴스에 대해, 상수 차수의 SOS SDP가 진짜 값의 95.2% 이내의 최적값을 증명한다.
• 일반적인 ρ ∈ (−1, 0) 에 대해, degree-O(1) SOS SDP가 최적값의 93.1% 이내의 값을 증명하며, 이 요소는 arccos(ρ)/π 식에서 유도된다.
• 분수 할당 값이 최소 ε 이상일 경우, Khot–Vishnoi 인스턴스에 대해 degree-Õ(1/δ²) SOS 반증이 존재하며, 다항식 항등식을 통해 오차 항이 제어됨을 보여준다.
• 결과들은 상수 차수의 SOS 증명이 중심극한현상을 포괄할 수 있을 정도로 강력할 수 있음을 시사하며, 중심극한정리에 대해 상수 차수의 SOS 증명이 존재하는지 여부는 여전히 열린 질문으로 남아 있다.