[논문 리뷰] How to refute a random CSP

Sarah R. Allen, Ryan O’Donnell외 1명|arXiv (Cornell University)|2015. 05. 17.

semigroups and automata theory참고 문헌 22인용 수 8

한 줄 요약

이 논문은 랜덤 제약만족문제(CSP)를 효율적으로 반증하기 위한 일반적인 알고리즘을 제안하며, 합의 제곱(SOS) 계층을 사용한다. k-아르니 예측 P가 t-방향 균일 분포를 지원하지 못할 경우(2 ≤ t ≤ k), m ≫ n^{t/2}개의 제약 조건을 가진 랜덤 CSP 인스턴스는 다항시간 내에 반증 가능하다는 것을 보여준다. 주요 기여는 SDP 계층과 일치하는 날것의 밀도 임계값 n^{t/2}을 확보한 것으로, P가 t-방향으로 지원하지 못할 경우 최적의 반증이 가능하다는 것을 증명하며, 이는 k-SAT에 대해 강력한 반증을 근접 최적의 값까지 가능하게 한다.

ABSTRACT

Let $P$ be a $k$-ary predicate over a finite alphabet. Consider a random CSP$(P)$ instance $I$ over $n$ variables with $m$ constraints. When $m \gg n$ the instance $I$ will be unsatisfiable with high probability, and we want to find a refutation - i.e., a certificate of unsatisfiability. When $P$ is the $3$-ary OR predicate, this is the well studied problem of refuting random $3$-SAT formulas, and an efficient algorithm is known only when $m \gg n^{3/2}$. Understanding the density required for refutation of other predicates is important in cryptography, proof complexity, and learning theory. Previously, it was known that for a $k$-ary predicate, having $m \gg n^{\lceil k/2 ceil}$ constraints suffices for refutation. We give a criterion for predicates that often yields efficient refutation algorithms at much lower densities. Specifically, if $P$ fails to support a $t$-wise uniform distribution, then there is an efficient algorithm that refutes random CSP$(P)$ instances $I$ whp when $m \gg n^{t/2}$. Indeed, our algorithm will "somewhat strongly" refute $I$, certifying $\mathrm{Opt}(I) \leq 1-Ω_k(1)$, if $t = k$ then we get the strongest possible refutation, certifying $\mathrm{Opt}(I) \leq \mathrm{E}[P] + o(1)$. This last result is new even in the context of random $k$-SAT. Regarding the optimality of our $m \gg n^{t/2}$ requirement, prior work on SDP hierarchies has given some evidence that efficient refutation of random CSP$(P)$ may be impossible when $m \ll n^{t/2}$. Thus there is an indication our algorithm's dependence on $m$ is optimal for every $P$, at least in the context of SDP hierarchies. Along these lines, we show that our refutation algorithm can be carried out by the $O(1)$-round SOS SDP hierarchy. Finally, as an application of our result, we falsify assumptions used to show hardness-of-learning results in recent work of Daniely, Linial, and Shalev-Shwartz.

연구 동기 및 목표

• 이전에 알려진 것보다 낮은 밀도에서 랜덤 CSP 인스턴스를 효율적으로 반증할 수 있는 알고리즘을 개발하기.
• 효율적 반증을 가능하게 하는 일반적인 구조적 조건—t-방향 균일 분포를 지원하지 못함—을 규명하기.
• SDP 계층의 맥락에서 m ≫ n^{t/2} 밀도 임계값이 최적임을 보여주기.
• 최근의 학습 어려움 결과에서 사용된 SRCSP 가정을 반증하기.
• SOS 방법의 적용 범위를 이元 이진 예측과 3-SAT를 초과하는 CSP의 반증으로 확장하기.

제안 방법

• 다항식 시간 내에 불만족 가능성의 증거를 도출하기 위해 차수 O(1)의 합의 제곱(SOS) 계층을 사용한다.
• 효율적 반증을 위한 구조적 기준으로 t-독립 분포 조건을 도입한다.
• 최적 값이 1에서 멀리 떨어져 있음을 보여주는 차수-t SOS 증명을 구성하며, δ-분리 함수 Q를 사용한다.
• 다항식 표현과 {−1,1}^k 위에서 비음수 함수가 SOS 분해를 가짐을 이용한다.
• f(x) ≥ 0이 {−1,1}^k에서 성립할 경우, f는 다항식의 제곱합으로 표현될 수 있다는 항등식에 기반한다.
• t < k일 경우 강력한 반증(Opt(I) ≤ 1 − Ω_k(1))을 달성하고, t = k일 경우 최적의 반증(Opt(I) ≤ E[P] + o(1))을 달성한다.

실험 결과

연구 질문

• RQ1 일반적인 예측에 대해 이전에 알려진 n^{⌈k/2⌉} 임계값 이하의 밀도에서 랜덤 CSP의 효율적 반증이 가능할 수 있는가?
• RQ2 예측 P의 어떤 구조적 성질이 랜덤 CSP(P) 인스턴스의 효율적 반증이 가능한 최소 밀도를 결정하는가?
• RQ3 P가 t-방향 균일 분포를 지원하지 못할 경우, SDP 계층에 의한 반증에서 m ≫ n^{t/2} 밀도 임계값이 최적인가?
• RQ4 SOS 계층을 사용하여 임의의 k-아르니 예측을 가진 CSP에 대해 강력한 반증을 달성할 수 있는가?
• RQ5 반증 프레임워크를 랜덤 하이퍼그래프 q-색칠 가능성과 같은 비-문자 모델으로 확장할 수 있는가?

주요 결과

• 모든 k-아르니 예측 P가 t-방향 균일 분포를 지원하지 않을 경우(2 ≤ t ≤ k), m ≫ n^{t/2}일 때 랜덤 CSP(P) 인스턴스는 고확률로 다항시간 내에 반증 가능하다.
• 알고리즘은 '약간 강력한' 반증을 달성하며, 최적 값이 1 − Ω_k(1) 이하임을 증명함으로써 이전의 한계를 향상시킨다.
• t = k일 경우, 알고리즘은 최대한 강력한 반증을 달성하며, Opt(I) ≤ E[P] + o(1)를 증명함으로써 k-SAT에 대해 최적이다.
• SDP 계층의 맥락에서 밀도 임계값 m ≫ n^{t/2}는 최적이다. m ≪ n^{t/2}일 경우 효율적 반증이 불가능할 것이라는 증거가 있다.
• 반증 알고리즘은 O(1)-라운드 SOS SDP 계층 내에서 구현 가능하며, P의 구조적 성질과 증명 복잡성 사이의 날것의 연결을 확립한다.
• 최근의 학습 어려움 결과에서 사용된 SRCSP 가정을 반증하며, 특히 Daniely, Linial, Shalev-Shwartz(2014년 STOC)의 결과에서 가정된 어려움이 새로운 반증 임계값 하에서 안정적이지 않음을 보여준다.