[论文解读] KerGM: Kernelized Graph Matching

Zhen Zhang, Yijian Xiang+3 more|arXiv (Cornell University)|Nov 25, 2019

Advanced Graph Neural Networks被引用 9

一句话总结

KerGM 提出了一种核化图匹配框架，通过在再生核希尔伯特空间（RKHS）中将 Koopmans-Beckmann 型和 Lawler 型二次分配问题（QAP）统一为数组对齐问题，避免了对大型 $n^2 \times n^2$ 亲和矩阵的显式计算。该方法引入了熵正则化的 Frank-Wolfe（EnFW）算法，在图像和生物图匹配基准测试中实现了最先进水平的准确率与可扩展性。

ABSTRACT

Graph matching plays a central role in such fields as computer vision, pattern recognition, and bioinformatics. Graph matching problems can be cast as two types of quadratic assignment problems (QAPs): Koopmans-Beckmann's QAP or Lawler's QAP. In our paper, we provide a unifying view for these two problems by introducing new rules for array operations in Hilbert spaces. Consequently, Lawler's QAP can be considered as the Koopmans-Beckmann's alignment between two arrays in reproducing kernel Hilbert spaces (RKHS), making it possible to efficiently solve the problem without computing a huge affinity matrix. Furthermore, we develop the entropy-regularized Frank-Wolfe (EnFW) algorithm for optimizing QAPs, which has the same convergence rate as the original FW algorithm while dramatically reducing the computational burden for each outer iteration. We conduct extensive experiments to evaluate our approach, and show that our algorithm significantly outperforms the state-of-the-art in both matching accuracy and scalability.

研究动机与目标

• 解决 Lawler 型 QAP 的可扩展性瓶颈，其需要计算 $n^2 \times n^2$ 的亲和矩阵，从而限制了在小规模图上的应用。
• 通过在再生核希尔伯特空间（RKHS）中使用核诱导运算，将 Koopmans-Beckmann 型和 Lawler 型 QAP 公式统一于同一框架下。
• 开发一种数值高效的优化算法，在保持收敛速度的同时降低大规模图匹配的每次迭代计算成本。
• 在具有复杂边属性的真实世界数据集（如蛋白质-蛋白质相互作用网络和图像特征对应关系）上实现高精度图匹配。
• 通过基于凸与凹松弛的路径跟踪策略，缓解 QAP 优化中的局部最优问题。

提出的方法

• 引入 $\mathcal{H}$-运算用于希尔伯特空间中的数组操作，使 Lawler 型 QAP 可重表述为 RKHS 中的 Koopmans-Beckmann 型对齐问题。
• 假设边亲和度具有核结构，通过利用核技巧和 RKHS 性质，避免显式计算 $n^2 \times n^2$ 的亲和矩阵。
• 提出熵正则化 Frank-Wolfe（EnFW）算法，保持标准 Frank-Wolfe 的收敛速度，同时通过熵正则化降低每次迭代的计算成本。
• 实现一种路径跟踪策略，逐步从凸松弛过渡到凹松弛的 QAP，提升对局部最优的鲁棒性。
• 使用傅里叶随机特征高效近似核函数，尤其适用于大规模 PPI 网络。
• 将该框架应用于基于图像的图匹配（CMU House、Pascal）和生物网络对齐（S. cerevisiae PPI），采用基于热扩散的边属性。

实验结果

研究问题

• RQ1 Lawler 型 QAP 是否可以被重表述为一种避免显式计算 $n^2 \times n^2$ 亲和矩阵的方式，同时保持其对复杂边属性的建模能力？
• RQ2 Koopmans-Beckmann 型和 Lawler 型 QAP 能否在再生核希尔伯特空间中通过统一的基于核的框架实现统一？
• RQ3 具有熵正则化的 Frank-Wolfe 变体是否能在大规模图匹配中保持收敛速度，同时显著降低每次迭代的计算成本？
• RQ4 基于从凸到凹松弛的路径跟踪策略是否能通过逃离局部极大值来提升解的质量？
• RQ5 KerGM 框架在多样化的数据集上，其匹配准确率和可扩展性相较于当前最先进方法的提升程度如何？

主要发现

• KerGM-I 在 CMU House 数据集上实现了最高匹配准确率，优于 FGM 和 BPFG，尤其在 $n_1=20, n_2=30$ 的异常值条件下表现更优。
• 在 Pascal 数据集上，KerGM-I 的准确率与 FGM 和 BPFG 相当或更优，且显著更快，而 BPFG 因计算成本过高成为最慢的方法。
• 在含 25% 噪声的 S. cerevisiae PPI 网络上，KerGM-II 的准确率比 TAME、GHOST 和 MAGNA 高出超过 50 个百分点，展现出对噪声边的强鲁棒性。
• EnFW 算法保持了与标准 Frank-Wolfe 相同的收敛速率，但降低了每次迭代的计算负担，从而实现了对更大规模图的可扩展性。
• 通过 $\mathcal{H}$-运算实现的核化公式成功避免了显式亲和矩阵计算，使 Lawler 型 QAP 可应用于大规模图。
• 基于从凸到凹松弛的路径跟踪策略通过降低对局部最优的敏感性，提升了解的质量，这一结论在多个数据集上均得到一致性能提升的验证。