[論文レビュー] Toward Subgraph-Guided Knowledge Graph Question Generation with Graph Neural Networks

Yu Chen, Lingfei Wu+1 more|arXiv (Cornell University)|Apr 13, 2020

Topic Modeling参考文献 92被引用数 21

ひとこと要約

本稿では、知識グラフ（KG）部分グラフから自然言語の質問を生成するため、構造的および属性情報の保持を目的としたノードレベルのコピーメカニズムを備えた双方向的Graph2Seqモデルを提案する。この手法は2つのベンチマークで先行手法を上回り、SOTAの結果を達成し、データ拡張による質問応答の向上を著しく実現する。

ABSTRACT

Knowledge graph (KG) question generation (QG) aims to generate natural language questions from KGs and target answers. Previous works mostly focus on a simple setting which is to generate questions from a single KG triple. In this work, we focus on a more realistic setting where we aim to generate questions from a KG subgraph and target answers. In addition, most of previous works built on either RNN-based or Transformer based models to encode a linearized KG sugraph, which totally discards the explicit structure information of a KG subgraph. To address this issue, we propose to apply a bidirectional Graph2Seq model to encode the KG subgraph. Furthermore, we enhance our RNN decoder with node-level copying mechanism to allow directly copying node attributes from the KG subgraph to the output question. Both automatic and human evaluation results demonstrate that our model achieves new state-of-the-art scores, outperforming existing methods by a significant margin on two QG benchmarks. Experimental results also show that our QG model can consistently benefit the Question Answering (QA) task as a mean of data augmentation.

研究の動機と目的

• 既存の知識グラフ質問生成（KG-QG）手法が単一の三元組や線形化された部分グラフに限定され、豊富な構造的情報を損なうという限界に対処すること。
• グラフベースのエンコーダーを用いて、KG部分グラフの完全な構造的および属性情報を活用することで、質問生成の質を向上させること。
• 入力KG部分グラフから直接ノード属性（例：エンティティ名）を生成された質問にコピーできるようにすることで、事実の整合性と流暢さを向上させること。
• 提案されたQGモデルが知識ベース質問応答（KBQA）のためのデータ拡張技術としての有効性を評価すること。
• ノード／エッジ埋め込み初期化および答え表現が質問生成性能に与える影響を調査すること。

提案手法

• 構造的依存関係をグラフニューラルネットワーク（GNN）を用いて捉えるために、逐次エンコーダーではなく双方向的Graph2Seqモデルを用いてKG部分グラフをエンコードする。
• ノードレベルのコピーメカニズムを導入し、入力KG部分グラフのノード属性（例：エンティティ名）を生成された質問に直接コピー可能にすることで、事実の整合性を向上させる。
• ノードおよびエッジ埋め込みは、事前学習済みBERTベースの表現と関係固有の埋め込みを用いて初期化し、意味的および関係的情報を捉える。
• モデルは、関連する部分グラフコンポONENTに注目するためのカバレッジ機構とアテンションを備えたRNNデコーダーを採用し、トークン単位で質問を生成する。
• 多関係的グラフは、GNNエンコーダーにおける関係認識メッセージパッシングにより処理され、エッジ固有の意味を保持する。
• 答え情報は、ノードがターゲットの答えであるかどうかを示すマークアップベクトルによってエンコードされ、質問の焦点をガイドする。

実験結果

リサーチクエスチョン

• RQ1 多ホップKG質問生成において、構造的情報を捉える観点から、グラフベースのエンコーダーは逐次ベースのエンコーダーを上回ることができるか？
• RQ2 ノードレベルのコピーメカニズムにより、エンティティ属性を直接組み込むことで、生成された質問の事実の整合性と流暢さが向上するか？
• RQ3 KG部分グラフ上で学習されたQGモデルが、データ拡張を通じて下流のKBQA性能をどの程度向上できるか？
• RQ4 異なるノードおよびエッジ埋め込み初期化戦略が、生成された質問の品質にどのような影響を及えるか？
• RQ5 答えに特化した表現は、生成された質問の関連性および焦点を向上させることができるか？

主な発見

• 提案されたG2S+AEモデルは、2つの公開KG-QGベンチマークで新たなSOTA性能を達成し、既存手法を大きく上回る。
• モデルの性能はノードおよびエッジ埋め込み初期化に極めて敏感であり、BERTベースの初期化が最も優れた結果をもたらした。
• ノードレベルのコピーメカニズムは、実質的な整合性の向上を示しており、BLEUおよびROUGEスコアの上昇と、エンティティの言及正確性における人間評価の向上によって裏付けられた。
• モデルは一貫してKBQA性能を向上させ、特に学習データが限られる状況で顕著な向上を示した—5%および10%のデータ割合でF1スコアの最大上昇を記録した。
• G2S+AEで生成された質問を用いたデータ拡張は、TransformerベースのQGモデルからの質問を用いた場合よりも、BAMnet KBQAベースラインのF1スコアをより大きく向上させた。
• カバレッジ機構は性能向上に寄与しなかったが、これは不要な部分グラフタプルを過剰に促進していたためであり、より選択的な注目メカニズムの必要性を示唆している。