[论文解读] Nuclear norm minimization for the planted clique and biclique problems

Brendan Ames, Stephen A. Vavasis|ArXiv.org|Jan 21, 2009

Sparse and Compressive Sensing Techniques参考文献 15被引用 11

一句话总结

该论文提出使用核范数最小化——一种来自压缩感知的凸松弛技术——来求解NP难的最大团和最大边双团问题。研究表明，当图中存在带有随机或对抗性噪声的隐藏（植入）团或双团时，只要植入子图相对于图的总大小足够大，该方法就能以高概率精确恢复真实的团或双团。

ABSTRACT

We consider the problems of finding a maximum clique in a graph and finding a maximum-edge biclique in a bipartite graph. Both problems are NP-hard. We write both problems as matrix-rank minimization and then relax them using the nuclear norm. This technique, which may be regarded as a generalization of compressive sensing, has recently been shown to be an effective way to solve rank optimization problems. In the special cases that the input graph has a planted clique or biclique (i.e., a single large clique or biclique plus diversionary edges), our algorithm successfully provides an exact solution to the original instance. For each problem, we provide two analyses of when our algorithm succeeds. In the first analysis, the diversionary edges are placed by an adversary. In the second, they are placed at random. In the case of random edges for the planted clique problem, we obtain the same bound as Alon, Krivelevich and Sudakov as well as Feige and Krauthgamer, but we use different techniques.

研究动机与目标

• 为利用凸优化求解NP难的最大团和最大边双团问题。
• 研究核范数最小化是否能精确恢复带有额外噪声边的图中隐藏（植入）团或双团。
• 建立理论条件，以确保凸松弛在对抗性和随机噪声模型下均能获得精确解。
• 将核范数最小化的适用范围从压缩感知扩展到团和双团检测等组合优化问题。
• 提供一个统一框架，利用凸优化工具证明解的唯一性和最优性。

提出的方法

• 将最大团和最大边双团问题表述为邻接矩阵上的矩阵秩最小化问题。
• 利用迹范数作为秩的替代，将非凸的秩最小化问题松弛为凸的核范数最小化问题。
• 利用核范数松弛寻找对应于植入团或双团结构的低秩解。
• 应用浓度不等式（Chernoff界）和随机矩阵理论，以界定噪声矩阵的谱范数。
• 推导出凸松弛最优解唯一且精确对应于植入子图的条件。
• 通过加权邻接矩阵和谱范数构造对偶证书，以证明最优性和唯一性。

实验结果

研究问题

• RQ1 在存在对抗性噪声边的图中，核范数最小化在何种条件下能精确恢复植入团？
• RQ2 在存在对抗性边扰动的二分图中，核范数最小化能否精确恢复植入双团？
• RQ3 在随机边模型下，核范数最小化与现有谱方法在植入团问题上的性能相比如何？
• RQ4 通过核范数松弛实现精确恢复所需的最小植入团或双团大小是多少？
• RQ5 该凸松弛技术能否扩展到其他具有隐藏子结构的NP难组合优化问题？

主要发现

• 对于对抗性植入团问题，若干扰边数量最多为 $ O(n^2) $，且无非团顶点与超过 $ O(n) $ 个团顶点相邻，则核范数松弛能精确恢复团。
• 对于对抗性植入双团问题，若干扰边数量为 $ O(mn) $，且非双团顶点满足度数约束，则该方法成功。
• 在随机边模型中，当 $ N \to \infty $ 时，该方法以高概率精确恢复大小为 $ n = \Omega(\sqrt{N}) $ 的植入团，与 Alon 等人以及 Feige 和 Krauthgamer 的先前结果一致。
• 在固定概率 $ p $ 的随机边插入下，该方法也能以高概率精确恢复大小为 $ m = \Omega(\sqrt{N}) $ 和 $ n = \Omega(\sqrt{N}) $ 的植入双团。
• 由于涉及噪声矩阵 $ W $ 的谱范数的对偶证书条件，解被证明是唯一的，且在所述条件下该谱范数小于1。
• 该分析仅依赖于Chernoff界和经典随机矩阵结果，避免了马氏链等复杂工具，且与某些先前方法相比，能自然地推广至双团问题。