[論文レビュー] SimGNN: A Neural Network Approach to Fast Graph Similarity Computation

Yunsheng Bai, Hao Ding+4 more|arXiv (Cornell University)|Aug 16, 2018

Advanced Graph Neural Networks参考文献 53被引用数 16

ひとこと要約

SimGNN は、グラフ同士の類似度計算、特にグラフ編集距離（GED）の高速化を目的として、微分可能で不変かつ帰納的な類似度関数を学習する、グラフニューラルネットワーク（GNN）に基づく手法を提案する。グラフレベルの埋め込みとペアワイズのノードレベルアテンションを組み合わせることで、高速かつ高精度な予測を実現し、実世界のデータセットにおいて、既存の近似アルゴリズムおよび GNN ベースラインと比較して、速度と誤差率の両面で優れた性能を発揮する。

ABSTRACT

Graph similarity search is among the most important graph-based applications, e.g. finding the chemical compounds that are most similar to a query compound. Graph similarity computation, such as Graph Edit Distance (GED) and Maximum Common Subgraph (MCS), is the core operation of graph similarity search and many other applications, but very costly to compute in practice. Inspired by the recent success of neural network approaches to several graph applications, such as node or graph classification, we propose a novel neural network based approach to address this classic yet challenging graph problem, aiming to alleviate the computational burden while preserving a good performance. The proposed approach, called SimGNN, combines two strategies. First, we design a learnable embedding function that maps every graph into a vector, which provides a global summary of a graph. A novel attention mechanism is proposed to emphasize the important nodes with respect to a specific similarity metric. Second, we design a pairwise node comparison method to supplement the graph-level embeddings with fine-grained node-level information. Our model achieves better generalization on unseen graphs, and in the worst case runs in quadratic time with respect to the number of nodes in two graphs. Taking GED computation as an example, experimental results on three real graph datasets demonstrate the effectiveness and efficiency of our approach. Specifically, our model achieves smaller error rate and great time reduction compared against a series of baselines, including several approximation algorithms on GED computation, and many existing graph neural network based models. To the best of our knowledge, we are among the first to adopt neural networks to explicitly model the similarity between two graphs, and provide a new direction for future research on graph similarity computation and graph similarity search.

研究の動機と目的

• 正確なグラフ類似度計算、特に NP 完全であるグラフ編集距離（GED）の高い計算コストを軽減すること。
• 効率的にグラフ間の類似度スコアを予測できる学習可能で微分可能な関数を開発すること。
• モデルが未観測のグラフにも一般化可能であり、ノードの順序変更に対して不変性を保つこと。
• グローバルなグラフレベルの埋め込みと、詳細なノードレベルの比較を組み合わせることで、精度を向上させること。
• GED や類似するメトリクスのための組合せ的近似アルゴリズムに代わるスケーラブルな代替手法を提供すること。

提案手法

• 各グラフを構造情報を保持した固定長のベクトルにマップする、GNN を用いた学習可能なグラフ埋め込み関数を設計する。
• ターゲットの類似度メトリクスに最も関連するノードに注目する、新しいアテンションメカニズムを導入し、表現品質を向上させる。
• 2つのグラフ間のノードレベルでの類似度を計算するペアワイズノード比較モジュールを実装し、グローバル埋め込みを補完する。
• 予測誤差を最小化するために、グラフペアとその真値類似度スコア（例：正確な GED）を用いて、モデルをエンドツーエンドで訓練する。
• 対称的な集約とアテンションを用いて、ノード順序変更に対して不変な表現を確保する。
• 2つのグラフを同時に処理し、単一の類似度スコアを出力するシアンズ型アーキテクチャを採用する。

実験結果

リサーチクエスチョン

• RQ1 深層ニューラルネットワークは、高い精度と低い推論時間で、グラフ類似度スコアを効果的に予測できるか？
• RQ2 限定的な正確な GED 計算に基づいて学習した GNN ベースのモデルは、未学習のグラフにどの程度一般化できるか？
• RQ3 グローバルなグラフ埋め込みに加えて、ローカルなノードレベルの比較を組み込むことで、グローバル埋め込みのみを使用する場合と比べて性能がどの程度向上するか？
• RQ4 アテンションメカニズムは、構造的に重要なノードに注目することで、モデルの性能をどの程度向上させるか？
• RQ5 提案手法は、既存の GED 近似アルゴリズムと比較して、速度と精度のトレードオフをどのように改善できるか？

主な発見

• SimGNN は、3つの実世界のデータセットにおいて、複数のベースライン近似アルゴリズムと比較して、顕著に低い誤差率を達成した。
• 正確な GED 計算と比較して、計算時間は桁違いに短縮され、最先端の近似手法でさえも速度面で上回った。
• 平均して、SimGNN の実行時間は2つのグラフに含まれるノード数の2乗時間に比例し、中規模のグラフに対してスケーラブルである。
• 未観測のグラフに対しても良好に一般化され、小規模なグラフでのみ学習したにもかかわらず、強い帰納的バイアスを示した。
• アテンションメカニズムにより、構造的に重要なノードに注目することで、モデルの関連するグラフ差異への感受性が向上した。
• グラフレベルの埋め込みとペアワイズのノード比較の組み合わせにより、単体で使用した場合よりも優れた性能が得られた。