[论文解读] Unseeded low-rank graph matching by transform-based unsupervised point registration

Yuan Zhang|arXiv (Cornell University)|Jul 12, 2018

Graph Theory and Algorithms参考文献 32被引用 5

一句话总结

本文提出了一种新颖的、可证明一致的无种子低秩图匹配方法，通过将问题转化为基于拉普拉斯变换差异最小化的无监督点集配准来实现。通过在正交变换上进行优化而非对应关系，将计算复杂度从 O(n²) 降低至 O(d²)，在温和的低秩假设下首次实现了显式的误差率和一致性保证。

ABSTRACT

The problem of learning a correspondence relationship between nodes of two networks has drawn much attention of the computer science community and recently that of statisticians. The unseeded version of this problem, in which we do not know any part of the true correspondence, is a long-standing challenge. For low-rank networks, the problem can be translated into an unsupervised point registration problem, in which two point sets generated from the same distribution are matchable by an unknown orthonormal transformation. Conventional methods generally lack consistency guarantee and are usually computationally costly. In this paper, we propose a novel approach to this problem. Instead of simultaneously estimating the unknown correspondence and orthonormal transformation to match up the two point sets, we match their distributions via minimizing our designed loss function capturing the discrepancy between their Laplace transforms, thus avoiding the optimization over all possible correspondences. This dramatically reduces the dimension of the optimization problem from $Ω(n^2)$ parameters to $O(d^2)$ parameters, where $d$ is the fixed rank, and enables convenient theoretical analysis. In this paper, we provide arguably the first consistency guarantee and explicit error rate for general low-rank models. Our method provides control over the computational complexity ranging from $ω(n)$ (any growth rate faster than $n$) to $O(n^2)$ while pertaining consistency. We demonstrate the effectiveness of our method through several numerical examples.

研究动机与目标

• 为解决长期存在的无种子低秩图匹配问题，即在事前未知任何真实节点对应关系的情况下进行匹配。
• 克服现有方法在对应关系全空间优化中面临的计算不可行性及缺乏理论保证的问题。
• 通过将问题重新表述为基于拉普拉斯变换差异的点集配准，实现高效且可证明一致的节点匹配。
• 为一般低秩图匹配模型提供首个显式的误差率和一致性保证。
• 通过聚焦于变换估计而非对应关系搜索，将计算复杂度从 Ω(n²) 降低至 O(d²)。

提出的方法

• 该方法最小化基于两个点云分布拉普拉斯变换之间差异的损失函数，避免了对对应关系的直接优化。
• 利用网络的低秩结构，将节点位置建模为 R^d 中的点，并假设其通过未知的正交变换相关联。
• 优化对象为正交变换矩阵 O ∈ O(d)，将参数空间从 Ω(n²) 降低至 O(d²)，从而实现高效计算。
• 该方法使用总体拉普拉斯变换作为统计距离度量，满足三角不等式，并在温和的分布假设下具有良好的定义性。
• 该方法在计算复杂度上具有灵活性：通过调节矩数量 m_s，可实现与 n 线性或更快的缩放，具体取决于所需的误差界。
• 避免依赖种子节点或迭代优化，而是通过谱分析与矩分析直接估计最优变换。

实验结果

研究问题

• RQ1 我们能否在不预先知道任何真实对应关系的前提下，实现无种子低秩图匹配中的一致性节点匹配？
• RQ2 能否通过避免对应关系搜索，将图匹配的计算复杂度从 Ω(n²) 降低至 O(d²)？
• RQ3 我们能否为一般模型下的低秩图匹配提供理论误差率和一致性保证？
• RQ4 最小化拉普拉斯变换差异是否在低秩设置下优于 SGM 或 FAQ 等现有方法？
• RQ5 该方法在低秩网络模型中随样本量增加及噪声水平变化时表现如何？

主要发现

• 所提方法在温和结构假设下，首次为无种子低秩图匹配提供了显式的误差率和一致性保证。
• 在 Graphon 1 和 2 上，该方法性能与 SGM 相当；在 Graphon 3 上表现更优，显示出随着 n 增大，均方误差（MSE）持续减小。
• FAQ 表现不佳，归因于初始值 1/n·11^T 的初始化质量差，凸显了此类问题中鲁棒初始化的重要性。
• 当 m_s 固定时，计算时间随 n 线性增长，使得在误差有界条件下可实现 O(n) 时间复杂度，适用于大规模问题。
• 当 m_s 超过 n 后，误差率不再改善，因为 n 成为瓶颈因素，证实了理论上的精度与复杂度之间的权衡。
• 该方法对中等噪声具有鲁棒性，在低秩假设下表现良好，优于 SGM 在高维或复杂低秩设置下的表现。