[論文レビュー] Knowledge Hypergraphs: Extending Knowledge Graphs Beyond Binary Relations.

Bahare Fatemi, Perouz Taslakian+2 more|arXiv (Cornell University)|Jun 1, 2019

Advanced Graph Neural Networks参考文献 26被引用数 16

ひとこと要約

本稿では、従来の再帰化に依存する手法とは異なり、任意の数のエンティティを含む関係を直接処理できる、HSimplEおよびHypEの2つの知識ハイパーグラフ埋め込みモデルを提案する。これらのモデルは関係内のエンティティの位置を組み込み、新規に導入されたハイパーグラフベンチマークにおいてベースラインを上回り、ハイパーグラフリンク予測において優れた性能を示している。

ABSTRACT

Knowledge graphs store facts using relations between two entities. In this work, we address the question of link prediction in knowledge hypergraphs where relations are defined on any number of entities. While techniques exist (such as reification) that convert non-binary relations into binary ones, we show that current embedding-based methods for knowledge graph completion do not work well out of the box for knowledge graphs obtained through these techniques. To overcome this, we introduce HSimplE and HypE, two embedding-based methods that work directly with knowledge hypergraphs. In both models, the prediction is a function of the relation embedding, the entity embeddings and their corresponding positions in the relation. We also develop public datasets, benchmarks and baselines for hypergraph prediction and show experimentally that the proposed models are more effective than the baselines.

研究の動機と目的

• 既存の知識グラフ埋め込み手法が非二項関係および多エンティティ関係を処理する能力に限界を示していることに対処する。
• ハイパーグラフリンク予測に応用された際の再帰化ベースのアプローチの低性能を克服する。
• ハイパーグラフ構造をネイティブにサポートするが、二項関係への変換に依存しない専用の埋め込みモデルを開発する。
• 標準化された評価を可能にするために、ハイパーグラフリンク予測用の公開ベンチマークおよびベースラインを構築する。
• 実世界のハイパーグラフデータセットを用いた実験的評価を通じて、提案モデルの有効性を実証する。

提案手法

• SimplEモデルのハイパーグラフ拡張版としてのHSimplEを提案し、関係埋め込みとエンティティ埋め込みに加え、それらの位置符号化を組み合わせる。
• エンティティ固有の注目重みを関係埋め込み上に学習することで予測精度を向上させる、ハイパーグラフ特化型モデルであるHypEを設計する。
• 各ハイパーエッジをエンティティと関係のタプルとしてモデル化し、エンティティの位置を埋め込み計算に明示的に符号化する。
• 関係埋め込み、エンティティ埋め込み、位置情報の組み合わせを用いたスコア関数を用いて、ハイパーエッジ内の欠落したエンティティを予測する。
• 予測損失を最小化するために、ネガティブサンプリングと確率的最適化を用いてモデルをエンドツーエンドで訓練する。
• 構造的および関係的意味を保持したまま、既存の知識グラフ埋め込み技術をハイパーグラフ設定に適応する。

実験結果

リサーチクエスチョン

• RQ1 再帰化を経てハイパーグラフに適用された既存の知識グラフ埋め込み手法は、性能劣化を伴わずに効果的にハイパーグラフに適用可能か？
• RQ2 位置に敏感なエンティティ埋め込みは、ハイパーグラフにおけるリンク予測性能にどのように影響するか？
• RQ3 HSimplE や HypE といった専用のハイパーグラフ埋め込みモデルは、再帰化ベースのベースラインをハイパーグラフリンク予測タスクで上回ることができるか？
• RQ4 多エンティティ関係を直接モデル化するのと、二項関係に変換するのとでは、性能にどのような差が生じるか？
• RQ5 提案モデルは多様なハイパーグラフ構造および関係タイプに一般化できるか？

主な発見

• HSimplEおよびHypEは、ハイパーグラフリンク予測ベンチマークにおいて、再帰化ベースのベースラインを著しく上回る。
• エンティティ埋め込みに位置情報の統合がなされることで、評価されたすべてのデータセットでモデル性能が向上する。
• 再帰化を経由せずにハイパーグラフを直接モデル化することで、二項変換手法よりも優れた一般化性能と高い予測精度が得られる。
• 提案された公開ベンチマークおよびベースラインは、将来のハイパーグラフ研究のための標準化された評価フレームワークを提供する。
• HypEは、テストされたすべてのハイパーグラフデータセットで最先端の性能を達成し、注目に基づくエンティティ重み付けの有効性を示している。
• 結果から、現在の知識グラフ埋め込み手法は、アーキテクチャの適応なしではハイパーグラフに直接移行可能でないことが確認された。