[論文レビュー] Dynamic Anticipation and Completion for Multi-Hop Reasoning over Sparse Knowledge Graph

Xin Lv, Xu Han+7 more|arXiv (Cornell University)|Oct 5, 2020

Advanced Graph Neural Networks参考文献 27被引用数 5

ひとこと要約

本稿では、スパースな知識グラフにおけるマルチホップ推論を目的とした強化学習ベースのモデルDacKGRを提案する。動的予測を用いて事前学習済み埋め込みの予測を用いて経路探索をガイドし、動的補完を用いて推論中に合成関係を統合する。5つのデータセットにおける実験では、DacKGRは最先端のベースラインを上回り、特にリソースが限られた設定で、知的な経路拡張と予測によってスパarsityを効果的に軽減している。

ABSTRACT

Multi-hop reasoning has been widely studied in recent years to seek an effective and interpretable method for knowledge graph (KG) completion. Most previous reasoning methods are designed for dense KGs with enough paths between entities, but cannot work well on those sparse KGs that only contain sparse paths for reasoning. On the one hand, sparse KGs contain less information, which makes it difficult for the model to choose correct paths. On the other hand, the lack of evidential paths to target entities also makes the reasoning process difficult. To solve these problems, we propose a multi-hop reasoning model named DacKGR over sparse KGs, by applying novel dynamic anticipation and completion strategies: (1) The anticipation strategy utilizes the latent prediction of embedding-based models to make our model perform more potential path search over sparse KGs. (2) Based on the anticipation information, the completion strategy dynamically adds edges as additional actions during the path search, which further alleviates the sparseness problem of KGs. The experimental results on five datasets sampled from Freebase, NELL and Wikidata show that our method outperforms state-of-the-art baselines. Our codes and datasets can be obtained from https://github.com/THU-KEG/DacKGR

研究の動機と目的

• 限られた経路と低結合性により効果的な推論が困難になるスパースな知識グラフにおけるマルチホップ推論の課題に対処すること。
• 不足した経路証拠と弱いガイドラインのため、既存の強化学習ベースのモデルがスパースなKGで著しく性能を落とすという限界を克服すること。
• 外部テキストやドメイン固有のデータに依存せずに、推論性能を向上させる汎用的でエンドツーエンドのフレームワークを構築すること。
• 推論プロセスを動的に豊かにするための戦略を導入し、妥当な経路を予測し、リアルタイムで欠落した関係を補完すること。

提案手法

• 事前学習済み知識グラフ埋め込みモデルの予測を強化学習エージェントの状態に統合することで、動的予測を適用し、経路選択をガイドする。
• 事前学習済み埋め込みモデルを用いて、与えられた頭部エンティティと関係に対する潜在的な末尾エンティティを予測し、推論中に合成された（追加の）行動を生成する。
• 各推論ステップで、これらの予測された（r, e）ペアを有効な行動として追加することで、行動空間を動的に拡張し、経路探索の選択肢を増加させる。
• REINFORCEアルゴリズムを用いて、予測と補完を強化学習フレームワークに統合し、経路探索方策を最適化する。
• 探索と活用のバランスを保つために、追加行動の選択に使用する信頼度しきい値（α）を調整する。
• Freebase、NELL、Wikidataからのサンプリングされたデータセットを用いて、エージェントをエンドツーエンドで学習し、現実の低結合性状況を模倣するスパースKGを用いる。

実験結果

リサーチクエスチョン

• RQ1 スパースな結合性と限られた経路証拠を有する知識グラフにおいて、マルチホップ推論はどのように改善できるか？
• RQ2 事前学習済み知識グラフ埋め込みは、スパースな推論状況における強化学習エージェントを効果的にガイドするために活用可能か？
• RQ3 動的に追加された関係（補完）は、スパースなKGにおけるRLエージェントの推論能力をどの程度向上させることができるか？
• RQ4 予測と補完の戦略の組み合わせは、スパースデータセットにおけるベースライン手法と比較して、性能にどのように影響を与えるか？

主な発見

• DacKGRは、Freebase、NELL、Wikidataから抽出した5つのベンチマークデータセット（FB15K-237、WN18RR、NELL23K、WD-singerを含む）で最先端の性能を達成した。
• 最もスパースなデータセット、WD-singerにおいて、DacKGRは既存のベースラインを顕著に上回り、低結合性環境での有効性を示した。
• 動的補完戦略により、元のKGに直接の経路が存在しない場合でも、有効な推論経路を発見できることが、事例研究で示された。
• 動的予測戦略により、無作為な探索が減少し、情報に基づいたガイドラインが提供されることで、サンプル効率と収束速度が向上した。
• 変動するスパarsityレベルに対しても、DacKGRの性能は安定しており、FB15K-237-50%のような中程度にスパースなデータセットでも、劣化が最小限に抑えられた。
• アブレーションスタディの結果、予測と補完の両方が独立してかつ相乗的にモデルの成功に寄与しており、特に極めてスパースなグラフでは補完が最も大きな影響を与えた。