[论文解读] Association schemes, non-commutative polynomial concentration, and sum-of-squares lower bounds for planted clique

Raghu Meka, Avi Wigderson|arXiv (Cornell University)|Jul 29, 2013

Complexity and Algorithms in Graphs参考文献 26被引用 6

一句话总结

该论文首次在求和平方（SOS）层级中建立了图中 planted clique 问题的非平凡下界，表明当 planted clique 的大小 t 超过 √n/(C log n)^r² 时，r 轮 SOS 才能解决该问题。证明利用了关联方案（association schemes）以及一种新型矩阵多项式大偏差不等式，证明了由图导出的随机矩阵以高概率为半正定矩阵，从而确立了当前基于 SOS 的算法的障碍。

ABSTRACT

Finding cliques in random graphs and the closely related "planted" clique variant, where a clique of size t is planted in a random G(n,1/2) graph, have been the focus of substantial study in algorithm design. Despite much effort, the best known polynomial-time algorithms only solve the problem for t = Theta(sqrt(n)). Here we show that beating sqrt(n) would require substantially new algorithmic ideas, by proving a lower bound for the problem in the sum-of-squares (or Lasserre) hierarchy, the most powerful class of semi-definite programming algorithms we know of: r rounds of the sum-of-squares hierarchy can only solve the planted clique for t > sqrt(n)/(C log n)^(r^2). Previously, no nontrivial lower bounds were known. Our proof is formulated as a degree lower bound in the Positivstellensatz algebraic proof system, which is equivalent to the sum-of-squares hierarchy. The heart of our (average-case) lower bound is a proof that a certain random matrix derived from the input graph is (with high probability) positive semidefinite. Two ingredients play an important role in this proof. The first is the classical theory of association schemes, applied to the average and variance of that random matrix. The second is a new large deviation inequality for matrix-valued polynomials. Our new tail estimate seems to be of independent interest and may find other applications, as it generalizes both the estimates on real-valued polynomials and on sums of independent random matrices.

研究动机与目标

• 在求和平方（SOS）层级中建立 planted clique 问题的首个非平凡下界。
• 理解 SOS 算法在 √n 阈值以上解决 planted clique 问题的局限性。
• 开发一种新型矩阵多项式大偏差不等式，作为关键技术工具。
• 应用关联方案理论分析 SOS 证明系统中随机矩阵的期望与方差。
• 证明对于 t = o(√n / (log n)^r²) 的情况，任意有界次数的 SOS 算法均无法解决 planted clique 问题，揭示了一个根本性的算法障碍。

提出的方法

• 将 planted clique 问题形式化为 Positivstellensatz 代数证明系统中的次数下界，其等价于 SOS 层次结构。
• 构造一个由输入图导出的随机矩阵，其半正定性可推出 planted clique 问题的解。
• 利用关联方案的经典理论计算该随机矩阵的期望与方差。
• 开发一种新型矩阵多项式大偏差不等式，该不等式同时推广了实值多项式浓度与独立随机矩阵的尾部界限。
• 通过使用新尾部不等式控制其与期望的偏离，证明该随机矩阵以高概率为半正定矩阵。
• 通过证明所需的多项式恒等式无法成立，建立任意 r 次 SOS 证明在 t < √n / (C log n)^r² 时必然失败。

实验结果

研究问题

• RQ1 能否在求和平方层级中为 planted clique 问题建立非平凡下界？
• RQ2 对于 r 轮 SOS 层次结构，能够解决 planted clique 问题的最小团大小 t 是多少？
• RQ3 如何利用关联方案分析 SOS 证明中出现的随机矩阵的期望与方差？
• RQ4 能否开发一种新型矩阵多项式大偏差不等式，使其同时推广实值多项式浓度与独立随机矩阵之和的界限？
• RQ5 由图导出的随机矩阵的何种结构性质阻止了低次 SOS 证明的成功？

主要发现

• 该论文证明了当团大小 t 小于 √n / (C log n)^r² 时，r 轮求和平方层级无法解决 planted clique 问题，其中 C 为某常数。
• 这是 SOS 层次结构中 planted clique 问题的首个非平凡下界，填补了对 SOS 算法局限性理解中的重要空白。
• 该证明依赖于证明由图导出的某一特定随机矩阵以高概率为半正定矩阵，这是 SOS 证明成功的关键。
• 本文提出了一种新型矩阵多项式大偏差不等式，其同时推广了实值多项式集中性与独立随机矩阵之和的界限。
• 关联方案的应用使得能够精确计算随机矩阵的期望与方差，构成分析中的关键部分。
• 该结果表明，即使在强大的 SOS 框架内，要突破 √n 的时间复杂度障碍，仍需提出显著新颖的算法思想。