[論文レビュー] Complex Query Answering with Neural Link Predictors

Erik Arakelyan, Daniel Daza+2 more|arXiv (Cornell University)|Nov 6, 2020

Advanced Graph Neural Networks参考文献 37被引用数 14

ひとこと要約

本稿では、不完全な知識グラフ上の複雑な1階論理的クエリを、微分可能サブクエリに分解してスコア化することで、事前学習済みのニューラルリンク予測器を用いて解釈可能な形で回答する、Complex Query Decomposition (CQD) フレームワークを提案する。従来手法に比べて訓練データ量が桁違いに少ないにもかかわらず最先端の精度を達成し、中間変数の割り当てによりモデルの解釈可能性を実現している。

ABSTRACT

Neural link predictors are immensely useful for identifying missing edges in large scale Knowledge Graphs. However, it is still not clear how to use these models for answering more complex queries that arise in a number of domains, such as queries using logical conjunctions ($\land$), disjunctions ($\lor$) and existential quantifiers ($\exists$), while accounting for missing edges. In this work, we propose a framework for efficiently answering complex queries on incomplete Knowledge Graphs. We translate each query into an end-to-end differentiable objective, where the truth value of each atom is computed by a pre-trained neural link predictor. We then analyse two solutions to the optimisation problem, including gradient-based and combinatorial search. In our experiments, the proposed approach produces more accurate results than state-of-the-art methods -- black-box neural models trained on millions of generated queries -- without the need of training on a large and diverse set of complex queries. Using orders of magnitude less training data, we obtain relative improvements ranging from 8% up to 40% in Hits@3 across different knowledge graphs containing factual information. Finally, we demonstrate that it is possible to explain the outcome of our model in terms of the intermediate solutions identified for each of the complex query atoms. All our source code and datasets are available online, at https://github.com/uclnlp/cqd.

研究の動機と目的

• 欠落した事実が従来のサブグラフマッチングを困難にする不完全な知識グラフ上で、論理的結合、論理的選言、存在記号を含む複雑な論理的クエリを効果的に回答する課題に対処すること。
• 複雑なクエリに特化した大規模かつ多様な訓練データを必要とせず、1ホップのリンク予測から一般化可能なフレームワークを構築すること。
• 中間変数の割り当てを公開することで、複雑なクエリ回答における解釈可能性を実現すること。
• 完全なKG補完の計算量的困難さやブラックボックス型ニューラルクエリエンコーダーを回避しながら、高い精度を達成すること。

提案手法

• 各複雑なクエリを、各原子的サブクエリが事前学習済みのニューラルリンク予測器によってスコア化される、エンドツーエンド微分可能な目的関数に変換する。
• クエリ原子の真偽値は、ComplEx や DistMult などの微分可能なリンク予測モデルを用いて計算され、事実が真である確率を推定する。
• 勾配ベース最適化と組み合わせビームサーチ (CQD-Beam) の2つの最適化戦略を採用し、高スコアの変数割り当てを特定する。
• 論理的論理積を微分可能にモデル化するため、t-ノルム (例: 積t-ノルム) を用いて複数の原子のスコアを集約する。
• クエリに依存しないアプローチであり、新しいクエリタイプに対しても再訓練を必要とせず、未学習の複雑なクエリ構造に対してもゼロショット一般化が可能である。
• 中間変数の割り当てを保持し、最終的な答えの説明に使用することで、透明性と失敗モードの分析を可能にする。

実験結果

リサーチクエスチョン

• RQ1 1ホップクエリでの学習に限定されたニューラルリンク予測器を、不完全な知識グラフ上で複雑なマルチホップ論理的クエリに効果的に応用できるか？
• RQ2 複雑なクエリを、解釈可能性を保ちつつ高い精度を達成する微分可能な最適化問題として定式化する方法は何か？
• RQ3 何百万もの複雑なクエリ例の訓練データを必要としないフレームワークが、最先端のブラックボックス型ニューラルクエリエンコーダーを上回れるか？
• RQ4 クエリ分解プロセスにおける中間変数の割り当てを、予測の説明やデバッグにどの程度活用できるか？
• RQ5 訓練中に見られなかった分布外のクエリ構造に対しても、このフレームワークは一般化可能か？

主な発見

• CQDフレームワークは、複数の知識グラフで Hits@3 において8%から40%の相対的改善を達成し、Query2Box や GQE といった最先端モデルを上回っている。
• 本手法は、何百万もの合成複雑クエリで学習されたモデルよりも高い精度を達成しており、訓練データ量は桁違いに少ない。
• CQD-Beam は複雑なクエリに対して正しい答えを上位3位以内に返し、中間変数の割り当てにより映画や国などの関連するエンティティを正しく同定している。
• フレームワークは完全な説明可能性を実現している：中間スコアと変数の割り当てを確認することで、最終的な答えが正しくても誤った推論に基づいている場合でも、その経路を追跡できる。
• 正解だが中間割り当てが誤りであるケース（例：トマス・アクウィナスに誤った国籍を割り当てた場合）では、ブラックボックスモデルでは不可能な失敗モードを明らかにできる。
• ComplEx をリンク予測器として使用した場合、DistMult よりも高い性能を発揮するが、両者ともすべてのベンチマークで GQE や Query2Box を上回っている。