[论文解读] SimGNN: A Neural Network Approach to Fast Graph Similarity Computation

Yunsheng Bai, Hao Ding+4 more|arXiv (Cornell University)|Aug 16, 2018

Advanced Graph Neural Networks参考文献 53被引用 16

一句话总结

SimGNN 提出了一种基于图神经网络的方法，通过学习可微、不变且归纳的相似性函数，加速图相似性计算，特别是图编辑距离（GED）的计算。它结合图级嵌入与成对的节点级注意力机制，实现快速、准确的预测，在真实世界数据集上的速度和误差率方面优于现有的近似算法和 GNN 域基准模型。

ABSTRACT

Graph similarity search is among the most important graph-based applications, e.g. finding the chemical compounds that are most similar to a query compound. Graph similarity computation, such as Graph Edit Distance (GED) and Maximum Common Subgraph (MCS), is the core operation of graph similarity search and many other applications, but very costly to compute in practice. Inspired by the recent success of neural network approaches to several graph applications, such as node or graph classification, we propose a novel neural network based approach to address this classic yet challenging graph problem, aiming to alleviate the computational burden while preserving a good performance. The proposed approach, called SimGNN, combines two strategies. First, we design a learnable embedding function that maps every graph into a vector, which provides a global summary of a graph. A novel attention mechanism is proposed to emphasize the important nodes with respect to a specific similarity metric. Second, we design a pairwise node comparison method to supplement the graph-level embeddings with fine-grained node-level information. Our model achieves better generalization on unseen graphs, and in the worst case runs in quadratic time with respect to the number of nodes in two graphs. Taking GED computation as an example, experimental results on three real graph datasets demonstrate the effectiveness and efficiency of our approach. Specifically, our model achieves smaller error rate and great time reduction compared against a series of baselines, including several approximation algorithms on GED computation, and many existing graph neural network based models. To the best of our knowledge, we are among the first to adopt neural networks to explicitly model the similarity between two graphs, and provide a new direction for future research on graph similarity computation and graph similarity search.

研究动机与目标

• 为解决精确图相似性计算（尤其是图编辑距离 GED）的高计算成本问题，该问题为 NP 完全问题。
• 开发一种可学习的、可微的函数，以高效预测图之间的相似性得分。
• 确保模型能泛化到未见过的图，并保持对节点排列的不变性。
• 结合全局图级嵌入与细粒度的节点级比较，以提升准确性。
• 为 GED 及类似度量提供一种可扩展的替代方案，替代组合优化近似算法。

提出的方法

• 设计一种使用 GNN 的可学习图嵌入函数，将每张图映射为固定大小的向量，同时保留其结构信息。
• 引入一种新颖的注意力机制，突出对目标相似性度量最相关的节点，从而提升表示质量。
• 实现一个成对节点比较模块，计算两幅图之间的节点级相似性，补充全局嵌入信息。
• 通过图对及其真实相似性得分（例如精确 GED）进行端到端训练，以最小化预测误差。
• 通过对称聚合和注意力机制，使模型对节点排列保持不变，确保表示不变性。
• 采用类似 Siamese 的架构，同时处理两幅图并输出单一相似性得分。

实验结果

研究问题

• RQ1 深度神经网络能否被有效训练以实现高精度和低推理时间的图相似性得分预测？
• RQ2 当在有限数量的精确 GED 计算上进行训练时，基于 GNN 的模型在未见图上的泛化能力如何？
• RQ3 在仅使用全局图嵌入的基础上，同时引入全局图嵌入与局部节点级比较，能在多大程度上提升性能？
• RQ4 注意力机制如何通过聚焦于结构上关键的节点来增强模型性能？
• RQ5 所提出的模型能否在速度与准确性之间实现优于现有 GED 近似算法的更好权衡？

主要发现

• 在三个真实世界数据集上，SimGNN 相较于多种基线近似算法，在图编辑距离（GED）上的误差率显著更低。
• 与精确 GED 计算相比，该模型将计算时间降低了数量级，甚至在速度上超越了最先进的近似方法。
• 平均而言，SimGNN 的运行时间与两幅图中节点数的平方成正比，使其适用于中等规模图的可扩展计算。
• 该模型对未见图具有良好的泛化能力，尽管仅在小图上进行训练，仍表现出强大的归纳偏差。
• 注意力机制通过聚焦于结构上关键的节点，提升了模型对相关图差异的敏感性，从而改善了性能。
• 图级嵌入与成对节点比较的结合，相比单独使用任一组件，均能带来更优的性能表现。