[論文レビュー] Neighborhood Matching Network for Entity Alignment

Yuting Wu, Xiao Liu+3 more|arXiv (Cornell University)|May 12, 2020

Advanced Graph Neural Networks参考文献 30被引用数 12

ひとこと要約

本稿では、知識グラフにおける構造的非均一性に対処するため、特徴的な近傍を抽出するためのグラフサンプリング戦略と、アテンションを用いたクロスグラフ近傍マッチングモジュールを備えた、新たなエンティティアライメントフレームワークであるNeighborhood Matching Network (NMN) を提案する。NMNは、DBP15K、DWY100K、およびスパースバージョンにおいて、12の最先端手法を著しく上回り、特に近傍サイズの大きな差が生じる状況でも、最も優れた性能と高いロバスト性を達成している。

ABSTRACT

Structural heterogeneity between knowledge graphs is an outstanding challenge for entity alignment. This paper presents Neighborhood Matching Network (NMN), a novel entity alignment framework for tackling the structural heterogeneity challenge. NMN estimates the similarities between entities to capture both the topological structure and the neighborhood difference. It provides two innovative components for better learning representations for entity alignment. It first uses a novel graph sampling method to distill a discriminative neighborhood for each entity. It then adopts a cross-graph neighborhood matching module to jointly encode the neighborhood difference for a given entity pair. Such strategies allow NMN to effectively construct matching-oriented entity representations while ignoring noisy neighbors that have a negative impact on the alignment task. Extensive experiments performed on three entity alignment datasets show that NMN can well estimate the neighborhood similarity in more tough cases and significantly outperforms 12 previous state-of-the-art methods.

研究の動機と目的

• 構造的非均一性に対処すること。これは、同等のエンティティがしばしば異なる近傍構造やサイズを持つためである。
• 既存の埋め込みベース手法がノイズや特徴のない近傍のため失敗する現実世界の知識グラフにおいて、エンティティアライメントの性能を向上させること。
• 各エンティティに対して最も情報を含む近傍を特定するためのサンプリング戦略を開発すること。
• 近傍の違いを統合的に符号化するクロスグラフアテンションを用いた近傍マッチングモジュールを設計し、より良い類似度推定を実現すること。
• 特にスパースまたは極めて非均一な設定下でも、多様なデータセットにおいてロバストかつ優れたアライメント性能を達成すること。

提案手法

• NMNは、エンティティの周囲に特徴的な部分グラフを抽出するための新しいグラフサンプリング手法を採用し、アライメントに最も関連する近傍に焦点を当てる。
• サンプリングされた近傍内のトポロジカルな接続を、グラフ畳み込みネットワーク（GCNs）を用いてモデル化する。
• クロスグラフ近傍マッチングモジュールは、異なる知識グラフに属する2つのエンティティの近傍表現間の類似度を計算するために、クロスアテンション機構を適用する。
• マッチングモジュールは、メッセージパッシング中に特徴的な特徴を強調するように、近傍の違いを統合的に符号化する。
• フレームワークは、トポロジカル構造と近傍類似度を統合した一様な表現を用いてアライメントを実現する。
• モデルは、シードアライメントを用いてエンドツーエンドで訓練され、共有埋め込み空間におけるエンティティマッチングを最適化する。

実験結果

リサーチクエスチョン

• RQ1 構造的非均一性が存在する中で、エンティティアライメントに最も有益な近傍をどのように効果的に特定できるか。
• RQ2 知識グラフ間で近傍構造に顕著な差が生じる状況下で、近傍類似度推定がアライメント性能にどの程度寄与するか。
• RQ3 標準的なGNNベース手法と比較して、クロスグラフアテンション機構は近傍の違いをよりよく捉えられるか。
• RQ4 近傍のスパarsityやサイズの差が変化する条件下で、NMNの性能はどのように変化するか。
• RQ5 提案されたサンプリングおよびマッチング戦略は、多様なデータセットにおいて、既存の最先端手法よりもよりロバストなアライメントを達成できるか。

主な発見

• NMNは、DBP15K、DWY100K、およびそのスパースバージョンを含む、評価されたすべてのデータセットで最高のHits@1スコアを達成し、12の最先端手法を一貫して上回っている。
• DBP15K ZH-ENでは、近傍サイズの差が30を超える状況でも、NMNは強力な性能を維持しており、RDGCNはHits@1が35％まで低下する。
• スパースデータセットでは、近傍マッチングモジュールの貢献度が顕著である。例えば、S-DBP15Kではモジュールを削除するとHits@1が8.2％低下するが、DBP15Kでは3.1％にとどまる。
• 提案されたサンプリング戦略は、ランダムサンプリングを上回り、S-DBP15K ZH-ENではサンプリングサイズが3に達した時点で性能が頭打ちとなり、JA-ENやFR-ENでもロバストであることが示された。
• 可視化により、アテンション機構が正しく等価な近傍（例：Saving Private Ryan、Viacom）を特定し、強調していることが確認され、正確な近傍類似度推定が行われていることが裏付けられた。
• S-DBP15Kのようなスパースデータセットでは、マッチングモジュールが近傍の違いを強調し、正例対と負例対の類似度の差を拡大することで、より正確なアライメントを実現している。