[論文レビュー] Deep Graph Matching Consensus

Matthias Fey, Jan Eric Lenssen+3 more|arXiv (Cornell University)|Jan 27, 2020

Advanced Graph Neural Networks参考文献 105被引用数 56

ひとこと要約

グラフマッチングを学習し refining する、2段階のエンドツーエンドのニューラルアーキテクチャ。最初に初期のソフトマッチに対して局所埋め込みを計算し、次に同期的なメッセージ伝搬を介して反復的に洗練させ、近傍の合意に到達する。

ABSTRACT

This work presents a two-stage neural architecture for learning and refining structural correspondences between graphs. First, we use localized node embeddings computed by a graph neural network to obtain an initial ranking of soft correspondences between nodes. Secondly, we employ synchronous message passing networks to iteratively re-rank the soft correspondences to reach a matching consensus in local neighborhoods between graphs. We show, theoretically and empirically, that our message passing scheme computes a well-founded measure of consensus for corresponding neighborhoods, which is then used to guide the iterative re-ranking process. Our purely local and sparsity-aware architecture scales well to large, real-world inputs while still being able to recover global correspondences consistently. We demonstrate the practical effectiveness of our method on real-world tasks from the fields of computer vision and entity alignment between knowledge graphs, on which we improve upon the current state-of-the-art. Our source code is available under https://github.com/rusty1s/ deep-graph-matching-consensus.

研究の動機と目的

• ノード類似性とエッジ由来の近傍構造を組み合わせたタスクとしてグラフマッチングを位置づける。
• 初期マッチングに局所埋め込みを活用し、局所合意で洗練するスケーラブルなエンドツーエンド微分可能アプローチを開発する。
• 手法が純粋に局所的でスパース性を考慮して、大規模な実世界グラフに対応できることを保証する。
• コンピュータビジョンのキーポイントマッチングおよびクロスグラフのエンティティ整合タスクで性能の向上を示す。

提案手法

• 両方のグラフに対して共有グラフニューラルネットワーク \u0018Ψ_{θ1}\u0019 を用いて初期ノード埋め込みを計算する。
• H_s H_t^T によって初期のソフト対応関係 S^(0) を取得し、Sinkhorn正規化を適用して長方形の二重確率行列を作成する。
• Θ1 の Ψ を訓練して正しいマッチの尤度をグラウンドトゥルースに対して最大化する。
• 別の GNN Ψ_{θ2 を用いた同期的メッセージ伝搬を通じて対応関係を洗練し、近傍の合意を評価する。
• ノード指示関数を S を介して写像し、近傍表現を比較して局所的不一致 d_{i,j} を得る。これを学習可能な更新 Φ_{θ3} が用いて S^(l+1) を更新し、Sinkhorn で再正規化する。
• L(initial) + L(refined) という結合損失でエンドツーエンドに全システムを訓練する。
• スケーラビリティ技術を採用する：初期マッチをスパース化し、ランダムなノード指標を用い、洗練の過程で行ごとにソフトマックス正規化を適用する。

実験結果

リサーチクエスチョン

• RQ1 推論時にグローバル最適化問題を解決することなく、局所的に動作する2段階のニューラルグラフマッチャーは、正確でグローバルに一貫した対応関係を達成できるか。
• RQ2 同期的メッセージ伝搬による近傍の合意機構は、局所的な不一致を信頼性高く特定・修正してサブグラフを整列させるか。
• RQ3 スケーラビリティ戦略（スパース化、ランダムなノード指標、行ごとの正規化）は大規模グラフでの性能にどう影響するか。
• RQ4 エンドツーエンドの訓練は、様々なグラフ領域に対して局所特徴マッチングとその後の洗練の両方をどの程度改善できるか。

主な発見

• 局所埋め込みと近傍合意による洗練を組み合わせた2段階アプローチは、マッチング性能を向上させる。
• 共有GNNによって生成される近傍不一致信号 d_{i,j} は、局所的不一致を修正する堅固な基盤を提供する。
• 洗練段階は、自然画像のキーポイントマッチングおよびクロスグラフ知識整合タスクにおいて、非洗練ベースラインを著しく上回る。
• 堅牢性を損なうことなく、スパース化と効率的な洗練により大規模グラフへ拡張可能。
• WILLOW-ObjectClass ではカテゴリ全体で初期誤差が実質的に低減され、PascalVOC では初期マッチャーが弱い場合でも最大で14パーセントポイントの改善が観察される。