[論文レビュー] A Simple Temporal Information Matching Mechanism for Entity Alignment Between Temporal Knowledge Graphs

Li Cai, Xin Mao+4 more|arXiv (Cornell University)|Sep 20, 2022

Advanced Graph Neural Networks被引用数 5

ひとこと要約

本稿では、時系列知識グラフにおけるエンティティアライメントのためのシンプルなグラフニューラルネットワーク、STEAを提案する。時間埋め込みを学習するのではなく、STEAは直接タイムスタンプを比較することでアライメント精度を向上させる。TREAを含む先行手法と比較して、より少ないパラメータ数と短い学習時間を実現しながら、最先端の性能を達成している。

ABSTRACT

Entity alignment (EA) aims to find entities in different knowledge graphs (KGs) that refer to the same object in the real world. Recent studies incorporate temporal information to augment the representations of KGs. The existing methods for EA between temporal KGs (TKGs) utilize a time-aware attention mechanism to incorporate relational and temporal information into entity embeddings. The approaches outperform the previous methods by using temporal information. However, we believe that it is not necessary to learn the embeddings of temporal information in KGs since most TKGs have uniform temporal representations. Therefore, we propose a simple graph neural network (GNN) model combined with a temporal information matching mechanism, which achieves better performance with less time and fewer parameters. Furthermore, since alignment seeds are difficult to label in real-world applications, we also propose a method to generate unsupervised alignment seeds via the temporal information of TKG. Extensive experiments on public datasets indicate that our supervised method significantly outperforms the previous methods and the unsupervised one has competitive performance.

研究の動機と目的

• 時系列知識グラフ間のエンティティアライメント性能を、時間情報をより効率的に活用することで向上させること。
• 均一な時系列KGにおける時間埋め込みの学習を避けることで、モデルの複雑さと学習時間を削減すること。
• 時間情報の類似度を用いた教師なし手法により、高価なラベル付きシードへの依存を減らしてアライメントシードを生成すること。
• 直接的な時間マッチングが、アテンションベースの時間表現学習を上回ることを示すこと。

提案手法

• 構造的および関係的情報をもとにエンティティ埋め込みを学習するシンプルなGNNを提案する。
• 時間埋め込みを学習しないで、タイムスタンプから直接時間類似度を計算する時間情報マッチング機構を導入する。
• バランスハイパーパrameter α で制御される重み付き統合戦略を用いて、エンティティ埋め込み類似度と時間類似度を統合する。
• 時間類似度に基づく相互最近傍マッチングを用いて、教師なしのアライメントシードを生成する。
• 二段階の学習プロセスを採用する：第一段階では時間マッチングによる教師なしシード生成；第二段階では生成されたシードを用いた教師ありアライメント。
• シード選択とアライメント予測の両面で頑健性を確保するため、対称的な類似度行列を適用する。

実験結果

リサーチクエスチョン

• RQ1 時系列知識グラフにおけるエンティティアライメントにおいて、直接的な時間マッチングが学習された時間埋め込みを上回ることができるか？
• RQ2 明示的な時間マッチングを備えたシンプルなGNNモデルは、アテンションベースの手法と比較して、より少ないパラメータ数と短い学習時間で優れた性能を達成できるか？
• RQ3 時間情報のみを用いて、信頼性の高い教師なしアライメントシードを生成できるか？
• RQ4 バランス係数 α、GNN層数、埋め込み次元といったハイパーパrameter の変更に対して、本手法の性能はどれほど感度を示すか？

主な発見

• STEAは4つの公開データセットにおいて最先端の性能を達成し、DICEWS-1K、DICEWS-200、YAGO-WIKI50K-1K、YAGO-WIKI50K-2K においてそれぞれTREAと比較してHits@1が3.4%、3.6%、2.2%、12.3%向上した。
• 教師なしバージョンであるSTEA_unsupは、DICEWS-200およびYAGO-WIKI50K-1Kの両方でTREAを上回り、時間ベースのシード生成の有効性を示した。
• 比較対象のすべての手法と比較して、最も短い学習時間と最小のパラメータ数を達成しており、パラメータ数はO((|E|+|R|)×d)と大幅に少ない。TREA や TEA-GNN よりも顕著に少ない。
• エンティティ埋め込み類似度と時間類似度の統合に最適なバランス係数 α は 0.3 であり、0.1～0.5 の範囲で安定した性能を示しており、時間信号の重要性が強いことが示された。
• アブレーションスタディの結果、時間類似度のみ（α=1）がエンティティ埋め込み類似度のみ（α=0）を上回る性能を示し、時間情報の強力な識別力が裏付けられた。
• GNN層数や埋め込み次元の変更に対しても、モデルの性能は頑健であり、これらのハイパーパrameter を変更しても精度の低下は最小限に抑えられた。