[論文レビュー] CoSimGNN: Towards Large-scale Graph Similarity Computation

Haoyan Xu, Runjian Chen+3 more|arXiv (Cornell University)|May 14, 2020

Advanced Graph Neural Networks参考文献 32被引用数 4

ひとこと要約

CoSimGNN は、適応的グラフプーリングを用いてグラフを粗視化し、細粒度のクロスグラフアテンションを用いて効率的で高精度な類似度スコアリングを実現する、大規模グラフ類似度計算のための新規な「埋め込み－粗視化－マッチング」フレームワークを提案する。200ノードまでの大きなグラフにおいて、従来手法と比較して最大3倍速い推論時間を達成し、最先端の性能を発揮する。

ABSTRACT

The ability to compute similarity scores between graphs based on metrics such as Graph Edit Distance (GED) is important in many real-world applications. Computing exact GED values is typically an NP-hard problem and traditional algorithms usually achieve an unsatisfactory trade-off between accuracy and efficiency. Recently, Graph Neural Networks (GNNs) provide a data-driven solution for this task, which is more efficient while maintaining prediction accuracy in small graph (around 10 nodes per graph) similarity computation. Existing GNN-based methods, which either respectively embeds two graphs (lack of low-level cross-graph interactions) or deploy cross-graph interactions for whole graph pairs (redundant and time-consuming), are still not able to achieve competitive results when the number of nodes in graphs increases. In this paper, we focus on similarity computation for large-scale graphs and propose the "embedding-coarsening-matching" framework CoSimGNN, which first embeds and coarsens large graphs with adaptive pooling operation and then deploys fine-grained interactions on the coarsened graphs for final similarity scores. Furthermore, we create several synthetic datasets which provide new benchmarks for graph similarity computation. Detailed experiments on both synthetic and real-world datasets have been conducted and CoSimGNN achieves the best performance while the inference time is at most 1/3 of that of previous state-of-the-art.

研究の動機と目的

• 従来の手法がNP困難な複雑性や高い計算コストを抱える中で、大規模グラフ類似度計算における効率性と正確性のバランスを図るという重要な課題に取り組む。
• 既存のGNNベースのモデルの限界を克服する：埋め込みモデルはクロスグラフ間の相互作用を欠き、マッチングモデルはペアワイズノード相互作用に起因する二次時間計算量の問題を抱える。
• 100～200ノード程度の大規模グラフ（例：100–200ノード）において、階層的で細粒度の構造的差を保持しつつ、速度を犠牲にせずにスケーラブルなフレームワークを開発する。
• 大規模グラフ類似度タスクのための、正確なグラウンドトゥルースのグラフ編集距離（GED）ラベルを備えた、新規で高品質な合成および実世界のベンチマークを構築する。
• バイオインフォマティクスやソーシャルネットワーク解析などの実世界分野におけるグラフ類似度検索の実用的導入を可能にする。推論時間を短縮しつつ、高い正確性を維持する。

提案手法

• 3段階のフレームワークを提案する：(1) GNNによるグラフ符号化でノード表現を学習、(2) 構造的情報を保持しつつグラフサイズを縮小する学習可能なプーリング層を用いた適応的グラフ粗視化、(3) 粗視化されたグラフ間のインターアテンションモジュールによる細粒度のクロスグラフマッチング。
• 各グラフに特化した動的クラスターセンタを学習する適応的プーリング機構を導入し、従来の固定でグラフに依存しないセンタを用いる手法とは異なり、より柔軟な粗視化を実現する。
• 粗視化されたグラフの対応するノード間で低レベルのノード単位のアテンションを可能にするクロスグラフインターアテンションモジュール（M）を設計し、微細な構造的差を捉える。
• マッチング段階に3つのコンポonentを統合する：ノード特徴（X）、ノードの重要度（I）、クロスグラフアテンション（M）。アンブレーションスタディにより、それぞれの寄与と組み合わせた効果を確認した。
• 制御された構造的変異を備えた合成データセット（BA-60, BA-100, BA-200）を、誘導的グラフ生成を用いて構築し、大規模グラフに対しても正確なラベル付けを可能にする。
• 正確なGED計算が大規模グラフでは非現実的であるのを補うために、部分指数的近似アルゴリズムを用い、最小トリミングステップによる検証を実施し、より信頼性の高いGEDラベルを取得する。

実験結果

リサーチクエスチョン

• RQ1 GNNベースのフレームワークは、100ノードを超える大規模グラフにおいても、高精度かつ高効率な類似度計算を達成できるか？
• RQ2 固定プーリングやエンドツーエンド埋め込みと比較して、適応的グラフ粗視化は、大規模グラフにおける階層的および局所的構造的特徴の表現をどのように向上させるか？
• RQ3 グローバルなグラフレベルの埋め込みや粗い相互作用と比較して、細粒度のクロスグラフアテンション機構は類似度予測をどの程度向上させるか？
• RQ4 正確なグラウンドトゥルースGEDラベルを備えた合成データセットは、大規模グラフ類似度ベンチマークに効果的に構築可能か？また、それらはモデル評価をどのように改善するか？
• RQ5 マッチング段階におけるアーキテクチャコンポonent（X, I, M）の影響は何か？特に、どのコンポonentが正確性の向上に最も寄与しているか？

主な発見

• CoSimGNN は合成および実世界の両データセットで最高のパフォーマンスを達成し、BA-200分類タスクで99.75%の正確性を達成。GCN-Mean、GCN-Max、GSimCNN、CoSim-Memを含むすべてのベースラインを上回る。
• COIL-DELデータセットでは88.30%の正確性を達成し、2番目に良い手法（CoSim-Mem：83.85%）を顕著に上回り、実世界データに対する優れた一般化性能を示した。
• GED回帰において、BA-200データセットでMSEが0.95、MAEが22.06を達成し、他のモデルと比較して優れた回帰正確性を示した。
• アンブレーションスタディにより、マッチング段階のすべてのコンポonent（X, I, M）が不可欠であることが確認され、特にクロスグラフインターアテンションモジュール（M）が性能向上に最も寄与している。Mを削除すると正確性の低下が最も顕著に観察された。
• CoSimGNNの推論時間は、従来の最先端手法の最大1/3にまで短縮され、数百のグラフを含むデータベースにおける大規模類似度検索において非常に効率的である。
• 提案された合成データセット（BA-60, BA-100, BA-200）は、大規模グラフではこれまで入手不可能だった信頼性の高い正確なGEDラベルを提供し、大規模グラフ類似度分野における堅実なベンチマークと今後の研究を可能にする。