[论文解读] Does robustness imply tractability? A lower bound for planted clique in the semi-random model

Jacob Steinhardt|arXiv (Cornell University)|Apr 17, 2017

Random Matrices and Applications参考文献 15被引用 7

一句话总结

本文在半随机模型中为植 clique 问题建立了紧致的信息论下界，表明当 clique 小于 o(√n) 时恢复是不可能的，这与标准模型中 √n 的猜想计算阈值一致。结果表明，鲁棒性可能消除植 clique 问题中经典的计算-统计差距。

ABSTRACT

We consider a robust analog of the planted clique problem. In this analog, a set $S$ of vertices is chosen and all edges in $S$ are included; then, edges between $S$ and the rest of the graph are included with probability $\frac{1}{2}$, while edges not touching $S$ are allowed to vary arbitrarily. For this semi-random model, we show that the information-theoretic threshold for recovery is $ ildeΘ(\sqrt{n})$, in sharp contrast to the classical information-theoretic threshold of $Θ(\log(n))$. This matches the conjectured computational threshold for the classical planted clique problem, and thus raises the intriguing possibility that, once we require robustness, there is no computational-statistical gap for planted clique. Our lower bound involves establishing a result regarding the KL divergence of a family of perturbed Bernoulli distributions, which may be of independent interest.

研究动机与目标

• 探究植 clique 模型中的鲁棒性是否能消除经典模型中观察到的计算-统计差距。
• 在非 clique 边被对抗性扰动的半随机模型中，建立 clique 恢复的信息论下界。
• 通过分析扰动伯努利分布的 KL 散度来推导下界。
• 将半随机模型中的信息论阈值与经典模型中的计算阈值进行比较。
• 评估鲁棒模型是否导致统计阈值与计算阈值的重合。

提出的方法

• 提出一种半随机模型：planted clique 内部的边固定，clique 与非 clique 顶点之间的边以 p=1/2 随机化，非 clique 边由对抗性方式选择。
• 使用 KL 散度的链式法则，将邻接矩阵分布之间的散度分解。
• 应用一种新颖的扰动伯努利族之间 KL 散度的界，结合傅里叶分析与矩匹配。
• 推导出 KL 散度与扰动分布的傅里叶系数 S(J) 和 T(J) 差异之间关系的关键不等式。
• 使用超几何尾部界和二项分布近似来控制散度分析中的误差项。
• 使用并集界和概率论论证，表明在零假设模型下，具有高交集的大 clique 几乎不可能存在。

实验结果

研究问题

• RQ1 在植 clique 模型中要求鲁棒性是否能弥合计算-统计差距？
• RQ2 半随机模型中精确恢复的信息论阈值是什么？
• RQ3 扰动分布之间的 KL 散度如何随 clique 大小和扰动参数变化？
• RQ4 经典模型中的计算阈值 √n 是否能通过鲁棒模型中的信息论下界实现匹配？
• RQ5 经典模型与半随机模型在可恢复性方面是否存在根本性差异？

主要发现

• 半随机模型中精确恢复的信息论阈值为 ω(√(n log n))，与经典模型中 √n 的猜想计算阈值一致。
• 在半随机模型中，信息论上不可能近似恢复大小为 o(√n) 的 clique。
• 该下界通过新颖分析扰动伯努利分布之间的 KL 散度建立，该分析本身可能具有独立兴趣。
• 结果表明，鲁棒性可能消除植 clique 问题中统计极限与计算极限之间的指数级差距。
• 此模型中恢复的最佳已知上界为 Õ(n^{2/3})，与 √n 的下界之间存在差距，该差距显著小于经典模型中 log n 与 √n 的差距。
• 分析表明，最大度等标准启发式方法在半随机模型中失效，从而证明了鲁棒算法的必要性。