[论文解读] Spectral Graph Matching and Regularized Quadratic Relaxations II: Erdős-Rényi Graphs and Universality

Zhou Fan, Cheng Mao+2 more|arXiv (Cornell University)|Jul 20, 2019

Random Matrices and Applications参考文献 15被引用 21

一句话总结

该论文在一般 Wigner 矩阵模型下，为相关 Erdős-Rényi 图上的 GRAMPA 谱图匹配算法建立了普遍的精确恢复保证。通过利用稀疏 Wigner 矩阵的预解式表示和局部大数定律，证明了当边相关性为 $1 - \sigma^2$ 且 $\sigma \lesssim 1/\operatorname{polylog}(n)$ 时，只要平均度数至少为 $\operatorname{polylog}(n)$，GRAMPA 以高概率精确恢复潜在顶点对应关系。

ABSTRACT

We analyze a new spectral graph matching algorithm, GRAph Matching by Pairwise eigen-Alignments (GRAMPA), for recovering the latent vertex correspondence between two unlabeled, edge-correlated weighted graphs. Extending the exact recovery guarantees established in the companion paper for Gaussian weights, in this work, we prove the universality of these guarantees for a general correlated Wigner model. In particular, for two Erdős-Rényi graphs with edge correlation coefficient $1-σ^2$ and average degree at least $\operatorname{polylog}(n)$, we show that GRAMPA exactly recovers the latent vertex correspondence with high probability when $σ\lesssim 1/\operatorname{polylog}(n)$. Moreover, we establish a similar guarantee for a variant of GRAMPA, corresponding to a tighter quadratic programming relaxation of the quadratic assignment problem. Our analysis exploits a resolvent representation of the GRAMPA similarity matrix and local laws for the resolvents of sparse Wigner matrices.

研究动机与目标

• 将谱图匹配的精确恢复保证的普遍性从高斯模型扩展到更一般的模型。
• 在一般 Wigner 矩阵模型下分析 GRAMPA 在相关 Erdős-Rényi 图上的性能。
• 证明当噪声水平 $\sigma$ 为 $O(1/\operatorname{polylog}(n))$ 时，GRAMPA 以高概率实现精确恢复。
• 将合作者论文 [FMWX19] 中的理论框架扩展到更广泛的重尾和离散权重分布类别。
• 提出 GRAMPA 的更紧致的二次规划松弛变体，获得更优的理论保证。

提出的方法

• 提出 GRAMPA，一种利用成对特征值对齐和正则化参数 $\eta$ 构造相似性矩阵的谱图匹配算法。
• 使用 GRAMPA 相似性矩阵的预解式表示来分析其在扰动下的结构与稳定性。
• 应用随机矩阵理论工具，包括浓度不等式、Stieltjes 变换和预解式界，以控制相似性矩阵的行为。
• 采用 Schur 补恒等式和容斥原理，分解并界定预解式矩阵的元素。
• 在矩条件约束下，推导稀疏 Wigner 矩阵预解式的逐元素和范数界。
• 提出 QAP 的更紧致正则化二次规划松弛，通过基于预解式的分析展示其更优的理论性能。

实验结果

研究问题

• RQ1 GRAMPA 的精确恢复保证能否从高斯 Wigner 模型扩展到更一般的分布（如伯努利分布或有界项）？
• RQ2 GRAMPA 在相关 Erdős-Rényi 图中精确恢复潜在匹配的噪声水平 $\sigma$ 的精确阈值是什么？
• RQ3 GRAMPA 的性能如何依赖于图的稀疏性，特别是当平均度数以 $\operatorname{polylog}(n)$ 的速度增长时？
• RQ4 QAP 的更紧致二次规划松弛能否实现优于原始 GRAMPA 公式的精确恢复保证？
• RQ5 理论结果在满足矩条件的不同分布（包括次高斯和有界项）中在多大程度上具有普遍性？

主要发现

• 在相关 Erdős-Rényi 模型下，当边相关性为 $1 - \sigma^2$ 且 $\sigma \lesssim 1/\operatorname{polylog}(n)$ 时，GRAMPA 以高概率精确恢复潜在顶点对应关系。
• 精确恢复阈值在满足矩条件的广泛 Wigner 矩阵类中具有普遍性，包括有界、次高斯和 Erdős-Rényi 入口。
• GRAMPA 相似性矩阵的预解式表示使得能够通过稀疏 Wigner 矩阵的局部大数定律精确控制其非对角和对角元素。
• QAP 的更紧致正则化 QP 松弛实现了与原始 GRAMPA 相当的精确恢复保证，且具有更优的理论稳定性和收敛性。
• 分析建立了稀疏 Wigner 矩阵预解式的逐元素和范数界，对 $\|R - m_0 \mathbf{1} \mathbf{1}^\top\|$ 和 $\|R\|_{\mathrm{op}}$ 实现了高概率控制。
• 结果以至少 $1 - e^{-c(\log n)(\log \log n)}$ 的概率成立，表明在指定矩条件下具有强集中性。