[論文レビュー] Knowledge Graph Alignment Network with Gated Multi-hop Neighborhood Aggregation

Zequn Sun, Chengming Wang+5 more|arXiv (Cornell University)|Nov 20, 2019

Advanced Graph Neural Networks参考文献 34被引用数 20

ひとこと要約

本稿では、ゲート付きアテンションメカニズムを用いて多ホップ近傍情報を集約することで、クロスKGエンティティアライメントにおける近傍非同型性を軽減するAliNetという知識グラフアライメントネットワークを提案する。直接的および遠方の近傍を統合することでアライメント性能を向上させるとともに、構造的パターン（例：三角関係）を捉える関係損失を用いて表現を精緻化し、5つのベンチマークデータセットで最先端の結果を達成した。

ABSTRACT

Graph neural networks (GNNs) have emerged as a powerful paradigm for embedding-based entity alignment due to their capability of identifying isomorphic subgraphs. However, in real knowledge graphs (KGs), the counterpart entities usually have non-isomorphic neighborhood structures, which easily causes GNNs to yield different representations for them. To tackle this problem, we propose a new KG alignment network, namely AliNet, aiming at mitigating the non-isomorphism of neighborhood structures in an end-to-end manner. As the direct neighbors of counterpart entities are usually dissimilar due to the schema heterogeneity, AliNet introduces distant neighbors to expand the overlap between their neighborhood structures. It employs an attention mechanism to highlight helpful distant neighbors and reduce noises. Then, it controls the aggregation of both direct and distant neighborhood information using a gating mechanism. We further propose a relation loss to refine entity representations. We perform thorough experiments with detailed ablation studies and analyses on five entity alignment datasets, demonstrating the effectiveness of AliNet.

研究の動機と目的

• スキーマの不均一性とデータの不完全性に起因するクロスKGエンティティアライメントにおける近傍非同型構造の課題に対処すること。
• 直接の近傍を越えて近傍の重なりを拡大することで、同等エンティティの表現学習を向上させること。
• 直接的および遠方の近傍情報を効果的に集約するとともにノイズを低減するエンドツーエンドフレームワークの構築。
• 三角関係のような構造的パターンを捉える関係損失を導入することで、モデルの表現力の向上。
• 外部の補助情報に依存せずに、複数のエンティティアライメントベンチマークで最先端の性能を達成すること。

提案手法

• AliNetは、各エンティティの1ホップ近傍および遠方の近傍からの情報を捉える多ホップ近傍集約メカニズムを採用している。
• 遠方の近傍の重要性を動的に重み付けするアテンションメカニズムを用いることで、ノイズを低減し、意味的に関連するノードを強調する。
• 複数の集約関数の出力を組み合わせるゲーティングメカニズムにより、直接的および多ホップ近傍表現の適応的統合を実現する。
• 埋め込み空間内で三角関係のような構造的パターンのアライメントを促進する関係損失関数を統合する。
• 全層からの特徴を組み合わせることでエンティティ表現を形成し、表現力とロバストネスを向上させる。
• エンドツーエンドの学習により、近傍集約とアライメント目的の両方を同時に最適化可能である。

実験結果

リサーチクエスチョン

• RQ1 同等エンティティの近傍構造が非同型である状況下で、多ホップ近傍集約はエンティティアライメントを改善できるか？
• RQ2 ノイズを低減しつつ、有益な遠方近傍を選択するアテンションメカニズムは、エンティティ表現学習においてどの程度有効か？
• RQ3 ゲーティングメカニズムは、GNNベースのアライメントにおいて、直接的および遠方の近傍情報をどの程度効果的に統合できるか？
• RQ4 三角関係のような構造的パターンを捉える関係損失を組み込むことで、アライメント性能は向上するか？
• RQ5 低重複度のエンティティペアにおいて、AliNetは既存のGNNベースのモデルと比較してどの程度ロバスト性を示すか？

主な発見

• AliNetは5つのエンティティアライメントベンチマークで最先端の性能を達成し、既存のGNNベースのモデルを上回った。
• DBP15Kでは、Hits@1が0.657を達成し、GCN（0.552）や他のベースラインと比べ顕著な向上を示した。
• 1ホップ近傍の重複度が低いエンティティペアに対しても優れた性能を示し、トレーニング中における平均重複係数（OC）の低さがその一因となった。
• アブレーションスタディにより、ゲーティング集約および関係損失の両成分が性能向上に顕著な寄与をしていることが確認された。
• レイヤーごとの分析から、複数のレイヤーの表現を組み合わせることで、単一レイヤーを用いる場合よりも優れたアライメント結果が得られることを示した。
• アテンションメカニズムは関連する遠方近傍を効果的に同定し、不均一なKG環境下でのロバストネスを向上させた。