[論文レビュー] Outlining and Filling: Hierarchical Query Graph Generation for Answering Complex Questions over Knowledge Graphs

Yongrui Chen, Huiying Li+3 more|arXiv (Cornell University)|Nov 1, 2021

Topic Modeling被引用数 4

ひとこと要約

本稿では、複雑な知識グラフ質問応答（KGQA）のための階層的クエリグラフ生成モデルを提案する。新規のグラフ文法（AQG）を用いてSPARQLクエリを表現し、2段階のエンドツーエンド自己回帰的デコードを可能にする。まずクエリ構造を概要化し、その後にエンティティや関係を埋め込む。この手法により、探索空間が著しく削減され、局所的な曖昧性が回避され、3つの複雑なKGQAベンチマークで最先端の性能を達成する。特に事前学習モデルを組み合わせた場合に顕著である。

ABSTRACT

Query graph construction aims to construct the correct executable SPARQL on the KG to answer natural language questions. Although recent methods have achieved good results using neural network-based query graph ranking, they suffer from three new challenges when handling more complex questions: 1) complicated SPARQL syntax, 2) huge search space, and 3) locally ambiguous query graphs. In this paper, we provide a new solution. As a preparation, we extend the query graph by treating each SPARQL clause as a subgraph consisting of vertices and edges and define a unified graph grammar called AQG to describe the structure of query graphs. Based on these concepts, we propose a novel end-to-end model that performs hierarchical autoregressive decoding to generate query graphs. The high-level decoding generates an AQG as a constraint to prune the search space and reduce the locally ambiguous query graph. The bottom-level decoding accomplishes the query graph construction by selecting appropriate instances from the preprepared candidates to fill the slots in the AQG. The experimental results show that our method greatly improves the SOTA performance on complex KGQA benchmarks. Equipped with pre-trained models, the performance of our method is further improved, achieving SOTA for all three datasets used.

研究の動機と目的

• ネストされたサブクエリ、大きな探索空間、局所的な曖昧性を含む複雑なSPARQLクエリを扱う既存のLearn-to-Rank手法の限界を解消すること。
• ネストされたクエリや集計関数を含む複雑なSPARQL構文をサポートできるように、クエリグラフ表現を再定義すること。
• 階層的で構造制約付きのデコードにより、候補となるクエリグラフ生成における探索空間の削減と局所的曖昧性の回避。
• 構造的制約と事前学習言語モデルを活用することで、KGQAにおけるゼロショットおよびフェイントショット一般化性能の向上。

提案手法

• 各SPARQL句を頂点と辺を有する部分グラフとして扱う新しい形式的文法であるAQG（Answer Query Graph）を導入。これにより、ネストされたクエリや集計関数を含む複雑なSPARQL構造の表現が可能になる。
• 2段階の階層的自己回帰的デコードプロセスを提案：まず高レベルのAQG構造（概要化）を生成し、その後に具体的なエンティティ、関係、または値でスロットを埋める（埋め込み）。
• グラフ文法に基づくデコード戦略を採用し、生成の任意の段階で意味的コンポONENTを動的に挿入可能にすることで、固定された木構造的制約を回避。
• 事前学習言語モデルを活用してNLQの表現を強化し、特にリソースが限られた状況での一般化性能を向上。
• 概要化されたAQGからの構造的制約を適用し、探索空間を絞り、局所的には正しいが全体としては誤ったクエリグラフが生成される可能性を低減。
• ビームサーチを用いたデコードとともに、階層的生成プロセスにおける交差エントロピー損失を用いてエンドツーエンドモデルを訓練。

Figure 1 : Examples of the challenges. (a) depicts a complex SPARQL program with a nested query in ComplexWebQuesions [ 12 ] . (b) illustrates a local ambiguity. The green and gold boxes represent the correct and incorrect query graphs, and the dashed boxes represent their structures. For clarity, w

実験結果

リサーチクエスチョン

• RQ1 構造的制約付きの階層的生成フレームワークは、複雑なKGQAにおける探索空間の縮小と精度向上に寄与するか？
• RQ2 提案されたAQG文法は、ネストされたサブクエリや集計関数を含む複雑なSPARQLクエリをどれほど正確に表現できるか？
• RQ3 階層的デコードは、候補となるクエリグラフ生成における局所的曖昧性をどの程度軽減できるか？
• RQ4 事前定義されたテンプレートや条件に依存せずに、複雑なKGQAベンチマークで最先端の性能を達成できるか？

主な発見

• 提案手法は、WebQSP、ComplexWebQuestions、CSQAの3つの主要な複雑なKGQAベンチマークで、特に事前学習モデルを組み合わせた場合に最先端の性能を達成した。
• 階層的生成戦略により、探索空間が顕著に削減され、特にネストされたサブクエリを含むクエリにおいて、効率性と精度の両方が向上した。
• 特にFILTER節や集計関数を含む複雑なSPARQL構文を持つクエリにおいて、既存のLearn-to-Rankベースラインを大きく上回った。
• AQG文法の使用により、従来のクエリグラフではモデル化できない複雑なSPARQL構造（例：ネストされたサブクエリ）を正確に表現可能となった。
• 事前学習言語モデルを用いることで、ゼロショットおよびフェイントショット設定でも強力な一般化能力を示し、性能向上が確認された。
• 推論時間も効率的で、特に概要化段階での探索空間の削減のおかげで、HGNetはトレーニングおよび推論の両フェーズで最高の効率を達成した。

Figure 2 : Examples of generalized triples, query graphs and abstract query graphs. Two dashed boxes of the same color indicate that they correspond. In (b) and (c), the number in parentheses after each vertex name indicates its segment number. The red circle, ?x’(0) in (b), is the vertex representi