[论文解读] How to refute a random CSP

Sarah R. Allen, Ryan O’Donnell+1 more|arXiv (Cornell University)|May 17, 2015

semigroups and automata theory参考文献 22被引用 8

一句话总结

本论文提出了一种通用算法，通过使用平方和（SOS）层次结构，高效地对随机约束满足问题（CSP）进行反证。研究结果表明，当一个 k 元谓词 P 不支持 t 重均匀分布（2 ≤ t ≤ k）时，具有 m ≫ n^{t/2} 个约束的随机 CSP 实例可在多项式时间内被反证。关键贡献在于确定了 n^{t/2} 的紧密度阈值，与 SDP 层次结构中的证据一致，并证明当 P 不支持 t 重均匀分布时，最优反证是可能的，包括对 k-SAT 实现接近最优的强反证。

ABSTRACT

Let $P$ be a $k$-ary predicate over a finite alphabet. Consider a random CSP$(P)$ instance $I$ over $n$ variables with $m$ constraints. When $m \gg n$ the instance $I$ will be unsatisfiable with high probability, and we want to find a refutation - i.e., a certificate of unsatisfiability. When $P$ is the $3$-ary OR predicate, this is the well studied problem of refuting random $3$-SAT formulas, and an efficient algorithm is known only when $m \gg n^{3/2}$. Understanding the density required for refutation of other predicates is important in cryptography, proof complexity, and learning theory. Previously, it was known that for a $k$-ary predicate, having $m \gg n^{\lceil k/2 ceil}$ constraints suffices for refutation. We give a criterion for predicates that often yields efficient refutation algorithms at much lower densities. Specifically, if $P$ fails to support a $t$-wise uniform distribution, then there is an efficient algorithm that refutes random CSP$(P)$ instances $I$ whp when $m \gg n^{t/2}$. Indeed, our algorithm will "somewhat strongly" refute $I$, certifying $\mathrm{Opt}(I) \leq 1-Ω_k(1)$, if $t = k$ then we get the strongest possible refutation, certifying $\mathrm{Opt}(I) \leq \mathrm{E}[P] + o(1)$. This last result is new even in the context of random $k$-SAT. Regarding the optimality of our $m \gg n^{t/2}$ requirement, prior work on SDP hierarchies has given some evidence that efficient refutation of random CSP$(P)$ may be impossible when $m \ll n^{t/2}$. Thus there is an indication our algorithm's dependence on $m$ is optimal for every $P$, at least in the context of SDP hierarchies. Along these lines, we show that our refutation algorithm can be carried out by the $O(1)$-round SOS SDP hierarchy. Finally, as an application of our result, we falsify assumptions used to show hardness-of-learning results in recent work of Daniely, Linial, and Shalev-Shwartz.

研究动机与目标

• 开发一种在低于以往已知密度下高效反证随机 CSP 实例的算法。
• 识别一种通用的结构条件——谓词 P 不支持 t 重均匀分布——该条件可实现高效反证。
• 证明在 SDP 层次结构背景下，m ≫ n^{t/2} 的密度阈值是最优的。
• 将结果应用于否定近期学习困难性结果中使用的 SRCSP 假设。
• 将 SOS 方法在反证 CSP 方面的应用扩展至非二元谓词和 3-SAT 之外的场景。

提出的方法

• 该方法使用 O(1) 阶的平方和（SOS）层次结构，推导出不可满足性的证书。
• 引入 t 重独立分布条件作为高效反证的结构标准。
• 该算法构建一个 t 阶 SOS 证明，表明 CSP 实例的最优值远离 1，使用一个 δ 分离函数 Q。
• 利用多重线性多项式表示，并利用在 {−1,1}^k 上的非负函数可表示为 SOS 分解的性质。
• 该证明依赖于如下恒等式：若 f(x) ≥ 0 在 {−1,1}^k 上成立，则 f 可表示为多重线性多项式平方和。
• 当 t < k 时，该方法实现强反证（Opt(I) ≤ 1 − Ω_k(1)）；当 t = k 时，实现最优反证（Opt(I) ≤ E[P] + o(1)）。

实验结果

研究问题

• RQ1 能否在低于以往已知的 n^{⌈k/2⌉} 阈值下，对一般谓词的随机 CSP 实现高效反证？
• RQ2 谓词 P 的何种结构特性决定了随机 CSP(P) 实例可被高效反证的最小密度？
• RQ3 当谓词 P 不支持 t 重均匀分布时，m ≫ n^{t/2} 的密度阈值在 SDP 层次结构下是否为最优？
• RQ4 SOS 层次结构能否用于实现任意 k 元谓词 CSP 的强反证？
• RQ5 该反证框架能否扩展至非字面模型，如随机超图 q-染色问题？

主要发现

• 对于任何不支持 t 重均匀分布的 k 元谓词 P（2 ≤ t ≤ k），存在一个多项式时间算法，可在 m ≫ n^{t/2} 时以高概率反证随机 CSP(P) 实例。
• 该算法实现了“较强烈”的反证，证明最优值至多为 1 − Ω_k(1)，优于以往的界限。
• 当 t = k 时，该算法实现了最强的反证，证明 Opt(I) ≤ E[P] + o(1)，这对 k-SAT 是最优的。
• 在 SDP 层次结构背景下，密度阈值 m ≫ n^{t/2} 是最优的，因为证据表明当 m ≪ n^{t/2} 时，高效反证是不可能的。
• 该反证算法可在 O(1)-轮 SOS SDP 层次结构内实现，建立了 P 的结构特性与证明复杂性之间的紧密联系。
• 该结果否定了近期学习困难性结果中使用的 SRCSP 假设，特别是 Daniely、Linial 和 Shalev-Shwartz（STOC 2014）的研究，表明所假设的困难性在新的反证阈值下并不具备鲁棒性。