[論文レビュー] CGMN: A Contrastive Graph Matching Network for Self-Supervised Graph Similarity Learning

Di Jin, Luzhi Wang+5 more|arXiv (Cornell University)|May 30, 2022

Advanced Graph Neural Networks被引用数 4

ひとこと要約

本論文は、自己教師ありグラフ類似度学習のための対照的グラフマッチングネットワークであるCGMNを提案する。CGMNは、ノード表現学習を向上させるためにクロスビューおよびクロスグラフ相互作用を活用する。増強されたビューを生成し、ノードレベルおよびグラフレベルの表現を統合的に最適化することで、Aids700nefおよびBSDデータセットを含む複数のベンチマークで、既存の教師ありおよび教師なし手法を上回る最先端の性能を達成する。

ABSTRACT

Graph similarity learning refers to calculating the similarity score between two graphs, which is required in many realistic applications, such as visual tracking, graph classification, and collaborative filtering. As most of the existing graph neural networks yield effective graph representations of a single graph, little effort has been made for jointly learning two graph representations and calculating their similarity score. In addition, existing unsupervised graph similarity learning methods are mainly clustering-based, which ignores the valuable information embodied in graph pairs. To this end, we propose a contrastive graph matching network (CGMN) for self-supervised graph similarity learning in order to calculate the similarity between any two input graph objects. Specifically, we generate two augmented views for each graph in a pair respectively. Then, we employ two strategies, namely cross-view interaction and cross-graph interaction, for effective node representation learning. The former is resorted to strengthen the consistency of node representations in two views. The latter is utilized to identify node differences between different graphs. Finally, we transform node representations into graph-level representations via pooling operations for graph similarity computation. We have evaluated CGMN on eight real-world datasets, and the experiment results show that the proposed new approach is superior to the state-of-the-art methods in graph similarity learning downstream tasks.

研究の動機と目的

• 共同グラフ表現学習と類似度スコアリングのための自己教師あり手法の不足に対処すること。
• クラスタリングに基づく教師なし手法の限界を克服し、グラフ間のノードマッチングを無視するのを避け、手動でのクラスタ数選択を不要にする。
• 増強されたビュー間でのノード表現の一貫性を強化し、グラフ間の差異を捉える対照的学習フレームワークを設計すること。
• 高価な正解ラベルに依存せずに、高性能なグラフ類似度予測を達成すること。

提案手法

• CGMNは、ペair内の2つのグラフを処理するためのシアンサイトスGNNアーキテクチャを採用する。
• 各グラフに対して2つの増強ビューを生成し、対照的学習のための多様な文脈を提供する。
• クロスビュー相互作用により、同一グラフの2つのビュー間でのノード表現の一貫性を強制する。
• クロスグラフ相互作用により、異なるグラフ内の対応するノード間のマッチングを可能にし、構造的および特徴的差異を捉える。
• 精練されたノード埋め込みに対してプーリング操作を適用してグラフレベルの表現を導出する。最終的な類似度計算に使用する。
• 正例ペア間での一致を最大化し、負例ペア間での一致を最小化するように、対照的損失を用いてエンドツーエンドでモデルを訓練する。

実験結果

リサーチクエスチョン

• RQ1 ラベル付き類似度スコアに依存せずに、自己教師ありフレームワークが効果的にグラフ類似度を学習できるか。
• RQ2 クロスビューおよびクロスグラフ相互作用が、ノードおよびグラフ表現学習の向上にどのように寄与するか。
• RQ3 提案された対照的学習戦略は、クラスタリングに基づく教師なし手法を上回る性能を示すか。
• RQ4 増幅時の特徴マスキング確率やエッジ除去確率といったハイパーパrameterの変更に、モデルの性能がどれほど敏感か。

主な発見

• Aids700nefデータセットでは、CGMNはMSEが6.641×10⁻³を達成し、次に優れた手法よりも相対的改善率24.13%を示した。
• Linux1000データセットでは、CGMNは教師ありモデル比でMSEを12.28%改善し、教師なしベースライン比で21.67%改善した。
• BSDタスクでは、CGMNは全6つのデータセットで最高のAUCスコアを記録し、既存の教師なし手法と比較して一貫して優れた結果を示した。
• アブレーションスタディの結果、クロスビューまたはクロスグラフ相互作用のいずれかを削除すると、性能が著しく低下することが確認され、両方のコンponentsの必要性が裏付けられた。
• パラメータ感度分析の結果、過剰な増幅（例：10%以上の特徴マスキングまたはエッジ除去）は構造的歪みを引き起こし、性能を低下させると判明した。
• モデルは未観測のテストグラフに対しても良好に一般化でき、グラフ類似度予測における強力なゼロショット転送性を示した。