[論文レビュー] Answering Complex Logical Queries on Knowledge Graphs via Query Computation Tree Optimization

Yushi Bai, Xin Lv+2 more|arXiv (Cornell University)|Dec 19, 2022

Advanced Graph Neural Networks被引用数 6

ひとこと要約

本稿では、木構造の計算グラフを活用することで、不完全な知識グラフ上の複雑な論理クエリの正確な最適解を効率的に計算する最適化ベースの新手法 QTO（Query Computation Tree Optimization）を提案する。クエリ計算木における前向き・後向き伝搬と構造的独立性の活用により、QTOは最先端の性能を達成し、複雑なクエリ回答において前人最高の手法を平均22%上回り、中間的エンティティ割り当ての解釈において90%以上の正確性を達成する。

ABSTRACT

Answering complex logical queries on incomplete knowledge graphs is a challenging task, and has been widely studied. Embedding-based methods require training on complex queries, and cannot generalize well to out-of-distribution query structures. Recent work frames this task as an end-to-end optimization problem, and it only requires a pretrained link predictor. However, due to the exponentially large combinatorial search space, the optimal solution can only be approximated, limiting the final accuracy. In this work, we propose QTO (Query Computation Tree Optimization) that can efficiently find the exact optimal solution. QTO finds the optimal solution by a forward-backward propagation on the tree-like computation graph, i.e., query computation tree. In particular, QTO utilizes the independence encoded in the query computation tree to reduce the search space, where only local computations are involved during the optimization procedure. Experiments on 3 datasets show that QTO obtains state-of-the-art performance on complex query answering, outperforming previous best results by an average of 22%. Moreover, QTO can interpret the intermediate solutions for each of the one-hop atoms in the query with over 90% accuracy. The code of our paper is at https://github.com/bys0318/QTO.

研究の動機と目的

• 既存の埋め込みベース手法が一般化性と解釈可能性に課題を抱える不完全な知識グラフ上での複雑な論理クエリの回答という課題に対処すること。
• 近似による制限により正確性が制限される最適化ベース手法における指数的増大する探索空間を克服すること。
• 複雑なクエリのトレーニングを必要とせず、正確な最適解を求める手法を開発すること。
• 論理クエリ内の中間変数に対する忠実で解釈可能なエンティティ割り当てを可能にすること。
• 理論的最適性と長時間の推論でも短時間の推論でも高い効率性を保証すること。

提案手法

• QTOは、部分クエリ間の構造的独立性を活用するため、複雑な論理クエリをクエリ計算木と呼ばれる木構造の計算グラフとして定式化する。
• 各変数ノードをルートとする部分クエリのエンティティ割り当ての尤度を再帰的に最大化する前向き伝搬を実行する。
• 最も可能性の高いエンティティ割り当てを回復するために、argmax 操作を用いた後向きパスを実施し、中間結果の解釈可能性を実現する。
• QTOは事前学習済みのKGEモデルを用いて1ホップのアトムをスコア付けし、そのスコアを木最適化フレームワークに統合する。
• 最適化は知識グラフの隣接行列に対するスパース行列演算に基づき、GPU加速による推論を可能にする。
• 理論的分析により、QTOが与えられた定式化のもとでグローバルに最適な解を求めることが証明されている。

実験結果

リサーチクエスチョン

• RQ1 トレーニングを必要とせず、不完全な知識グラフ上の複雑な論理クエリに対して最適解を正確に達成できる最適化ベース手法は可能か？
• RQ2 クエリ計算木における構造的独立性をどのように活用することで、探索空間を削減し、計算を効率化できるか？
• RQ3 QTOは、CQDのような近似ベース手法と比較して、分布外のクエリ構造において、正確性と頑健性の面でどの程度優れているか？
• RQ4 QTOは、リンク欠損のない簡単なクエリおよび長時間の推論チェーンにおいても、高い正確性と解釈可能性を維持できるか？
• RQ5 QTOは、既存手法と比較して、答え集合の基数予測においてどの程度優れているか？

主な発見

• QTOは3つのベンチマークデータセット全体で、複雑なクエリ回答において前人最高の手法を平均22%上回る。
• 存在主義的正の1階論理クエリにおいて、QTOは前人最高の手法と比較して13.5%の性能向上を達成した。
• 否定を含むクエリにおいて、QTOは前人最高の手法と比較して37.5%の向上を達成した。
• QTOは、リンク欠損のない簡単なクエリに対して正確な解を保証する最初の手法であり、そのようなケースで100% Hits@1を達成した。
• 中間エンティティ割り当ての解釈が90%以上の正確性で行われ、高い解釈可能性を実現した。
• QTOはGNN-QEを著しく上回り、答え集合サイズ推定における平均絶対誤差が低かった。