[論文レビュー] Multi-Channel Graph Neural Network for Entity Alignment

Yixin Cao, Zhiyuan Liu+4 more|arXiv (Cornell University)|Aug 26, 2019

Advanced Graph Neural Networks参考文献 20被引用数 15

ひとこと要約

この論文では、自己自己アテンションとクロス-KGアテンション機構を用いて、知識グラフの補完と排他的なエンティティのプルーニングを統合的に実行することで、エンティティアライメントを向上させるマルチチャネルグラフニューラルネットワーク、MuGNNを提案する。複数のチャネルにおけるルール転送と強固なグラフ符号化を活用することで、5つの公開データセットにおいて、強力なベースライン比で平均5%のHits@1向上を達成した。

ABSTRACT

Entity alignment typically suffers from the issues of structural heterogeneity and limited seed alignments. In this paper, we propose a novel Multi-channel Graph Neural Network model (MuGNN) to learn alignment-oriented knowledge graph (KG) embeddings by robustly encoding two KGs via multiple channels. Each channel encodes KGs via different relation weighting schemes with respect to self-attention towards KG completion and cross-KG attention for pruning exclusive entities respectively, which are further combined via pooling techniques. Moreover, we also infer and transfer rule knowledge for completing two KGs consistently. MuGNN is expected to reconcile the structural differences of two KGs, and thus make better use of seed alignments. Extensive experiments on five publicly available datasets demonstrate our superior performance (5% Hits@1 up on average).

研究の動機と目的

• 効果的なエンティティアライメントを阻害する知識グラフ(KG)間の構造的非均一性に対処すること。
• 訓練に用いられるスパースなシードアライメントの制限を克服し、堅牢なKG埋め込みを学習すること。
• 知識グラフの推論とエンティティアライメントを統合的に実行するフレームワークを構築すること。
• マルチチャネル符号化を通じて、欠落している関係や排他的なエンティティを明示的に是正することで、グラフ表現学習を強化すること。
• 外部テキストや反復的精錬に依存せずに優れたアライメント性能を達成すること。

提案手法

• 自己アテンションによるKG補完とクロス-KGアテンションによるプルーニングを別々の視点から行う複数のGNNチャネルを採用する。
• AMIE+を用いてKG間でルール知識を抽出・転送し、欠落している関係の一貫性のある補完を実現する。
• 自己アテンションによる関係重み付けで、各KG内の情報量の多い関係を強調し、ノイズを抑制する。
• クロス-KGアテンションを活用して、片方のKGにのみ関連するエンティティに接続された関係に低い重みを割り当て、効果的にそれらを除外する。
• 複数のチャネル出力をプーリングすることで、アライメント指向のKG埋め込みを生成する。
• シードアライメントを用いてエンドツーエンドでモデルを訓練し、アライメント性能を最適化する。

実験結果

リサーチクエスチョン

• RQ1 知識グラフ間の構造的非均一性を明示的に是正することで、エンティティアライメントをどのように改善できるか？
• RQ2 ルール推論と転送は、KG補完とアライメントのロバストネスをどの程度向上させ得るか？
• RQ3 限られたシードアライメント下で、多様なアテンション機構を備えたマルチチャネルGNNは、単一チャネルGNNを上回る性能を発揮できるか？
• RQ4 アテンション機構を用いたKG補完とプルーニングの統合は、埋め込み品質とアライメント精度にどのような影響を与えるか？
• RQ5 各コンポONENT（例：ルール転送、自己アテンション、クロス-KGアテンション）の寄与度は、全体の性能向上にどの程度寄与しているか？

主な発見

• MuGNNは、最先端手法と比較して、5つの公開データセットで平均5%のHits@1向上を達成した。
• アブレーションスタディの結果、ルール転送とマルチチャネルアテンション機構の両方が性能向上に顕著に寄与していることが確認された。
• ルール転送は、例えば英語DBPediaから抽出したルールを用いて中国語DBPediaの欠落関係を補完することで、KG間の非対称的情報のなめらかさを実現した。
• クロス-KGアテンションは、排他的なエンティティを効果的に同定し、一方のKGからの構造的バイアスを低減した。
• 特にシードアライメントが限られた状況でも、モデルは構造的差異に対してロバストであることが示された。
• 誤差解析から、ノイズの多いルール（例：(a, team, b) ⇒ (a, affiliation, b)）は過剰なグラウディングを生成する可能性があることが判明し、今後の作業としてルールのフィルタリングの必要性が示唆された。