[논문 리뷰] Association schemes, non-commutative polynomial concentration, and sum-of-squares lower bounds for planted clique

Raghu Meka, Avi Wigderson|arXiv (Cornell University)|2013. 07. 29.

Complexity and Algorithms in Graphs참고 문헌 26인용 수 6

한 줄 요약

이 논문은 합의 제곱(SOS) 계층에서 식별된 클리크 문제에 대한 최초의 비자명한 하한을 확립하며, r라운드의 SOS는 식별된 클리크 크기 t가 √n/(C log n)^r²를 초과할 때에만 문제를 해결할 수 있음을 보여준다. 증명은 연관 체계와 새로운 행렬 다항식 꼬리 불등식을 활용하여, 그래프에서 유도된 무작위 행렬이 높은 확률로 양의 준정부호임을 입증함으로써, 현재의 SOS 기반 알고리즘에 대한 장벽을 설정한다.

ABSTRACT

Finding cliques in random graphs and the closely related "planted" clique variant, where a clique of size t is planted in a random G(n,1/2) graph, have been the focus of substantial study in algorithm design. Despite much effort, the best known polynomial-time algorithms only solve the problem for t = Theta(sqrt(n)). Here we show that beating sqrt(n) would require substantially new algorithmic ideas, by proving a lower bound for the problem in the sum-of-squares (or Lasserre) hierarchy, the most powerful class of semi-definite programming algorithms we know of: r rounds of the sum-of-squares hierarchy can only solve the planted clique for t > sqrt(n)/(C log n)^(r^2). Previously, no nontrivial lower bounds were known. Our proof is formulated as a degree lower bound in the Positivstellensatz algebraic proof system, which is equivalent to the sum-of-squares hierarchy. The heart of our (average-case) lower bound is a proof that a certain random matrix derived from the input graph is (with high probability) positive semidefinite. Two ingredients play an important role in this proof. The first is the classical theory of association schemes, applied to the average and variance of that random matrix. The second is a new large deviation inequality for matrix-valued polynomials. Our new tail estimate seems to be of independent interest and may find other applications, as it generalizes both the estimates on real-valued polynomials and on sums of independent random matrices.

연구 동기 및 목표

• 합의 제곱(SOS) 계층에서 식별된 클리크 문제에 대한 최초의 비자명한 하한을 확립하기.
• √n 임계값을 초월하여 SOS 알고리즘이 식별된 클리크 문제를 해결하는 데서의 한계를 이해하기.
• 기존의 실수 다항식 및 독립적인 무작위 행렬 꼬리 불등식을 일반화하는 새로운 행렬 다항식 꼬리 불등식을 개발하기.
• 연관 체계 이론을 활용하여 SOS 증명 체계에서 발생하는 무작위 행렬의 평균과 분산을 분석하기.
• SOS 알고리즘이 유한 차수를 가질 경우 t = o(√n / (log n)^r²일 때 식별된 클리크 문제를 해결할 수 없음을 입증하여, 본질적인 알고리즘 장벽을 드러내기.

제안 방법

• 식별된 클리크 문제를 Positivstellensatz 대수적 증명 체계에서의 차수 하한으로 재구성함으로써, SOS 계층과 동치가 되도록 한다.
• 입력 그래프에서 유도된 무작위 행렬을 구성하며, 이 행렬의 양의 준정부호성은 식별된 클리크 문제의 해를 암시한다.
• 고전적인 연관 체계 이론을 사용하여 이 무작위 행렬의 기대값과 분산을 계산한다.
• 실수 다항식과 독립적인 무작위 행렬 꼬리 불등식을 모두 일반화하는 새로운 행렬 다항식 꼬리 불등식을 개발한다.
• 새로운 꼬리 불등식을 사용하여 기대값에서의 이격도를 유한하게 제한함으로써, 무작위 행렬이 높은 확률로 양의 준정부호임을 증명한다.
• 필요한 다항식 항등식이 성립하지 않음을 보여줌으로써, t < √n / (C log n)^r²일 경우 어떤 r차수 SOS 증명도 실패함을 입증한다.

실험 결과

연구 질문

• RQ1 합의 제곱 계층에서 식별된 클리크 문제에 대해 비자명한 하한을 확립할 수 있는가?
• RQ2 r라운드의 SOS 계층이 식별된 클리크 문제를 해결할 수 있는 최소 클리크 크기 t는 얼마인가?
• RQ3 연관 체계는 SOS 증명에서 발생하는 무작위 행렬의 평균과 분산을 어떻게 분석할 수 있는가?
• RQ4 기존의 실수 다항식 및 독립적인 무작위 행렬 꼬리 불등식을 일반화하는 새로운 행렬 다항식 꼬리 불등식을 개발할 수 있는가?
• RQ5 그래프에서 유도된 무작위 행렬의 어떤 구조적 성질이 낮은 차수의 SOS 증명이 실패하게 만드는가?

주요 결과

• 논문은 r라운드의 합의 제곱 계층이 클리크 크기 t가 √n / (C log n)^r² 이하일 경우 식별된 클리크 문제를 해결할 수 없음을 입증한다. 여기서 C는 어떤 상수이다.
• 이는 SOS 계층에서 식별된 클리크 문제에 대한 최초의 비자명한 하한으로, SOS의 한계에 대한 이해에 중대한 격차를 메우는 결과이다.
• 증명은 특정한 그래프에서 유도된 무작위 행렬이 높은 확률로 양의 준정부호임을 보여줌으로써, SOS 증명이 성공하기 위한 필수 조건임을 입증한다.
• 실수 다항식 농도와 독립적인 무작위 행렬의 합을 모두 일반화하는 새로운 행렬 다항식 꼬리 불등식이 개발되었다.
• 연관 체계의 사용은 무작위 행렬의 기대값과 분산을 정확하게 계산할 수 있게 하여 분석의 핵심 요소가 되었다.
• 결과적으로, √n 장벽을 넘어서는 다항 시간 내의 알고리즘 개선은 심지어 강력한 SOS 프레임워크 내에서도 상당한 새로운 알고리즘 아이디어가 필요함을 시사한다.