[論文レビュー] Dynamic Relevance Graph Network for Knowledge-Aware Question Answering

Zheng Chen, Parisa Kordjamshidi|arXiv (Cornell University)|Sep 20, 2022

Topic Modeling被引用数 7

ひとこと要約

本稿では、知識グラフ部分グラフ内のノード間の関連スコアを動的に学習することで、欠落した辺の回復と多ステップ推論の向上を図る、動的関連性グラフニューラルネットワーク（DRGN）を提案する。質問ノードへの注目メカニズムと学習可能な関連性行列を統合することで、DRGNはCommonsenseQAおよびOpenbookQAにおける推論を向上させ、アブレーション駆動の構成最適化により、CommonsenseQAで78.2%の開発精度という最先端の性能を達成した。

ABSTRACT

This work investigates the challenge of learning and reasoning for Commonsense Question Answering given an external source of knowledge in the form of a knowledge graph (KG). We propose a novel graph neural network architecture, called Dynamic Relevance Graph Network (DRGN). DRGN operates on a given KG subgraph based on the question and answers entities and uses the relevance scores between the nodes to establish new edges dynamically for learning node representations in the graph network. This explicit usage of relevance as graph edges has the following advantages, a) the model can exploit the existing relationships, re-scale the node weights, and influence the way the neighborhood nodes' representations are aggregated in the KG subgraph, b) It potentially recovers the missing edges in KG that are needed for reasoning. Moreover, as a byproduct, our model improves handling the negative questions due to considering the relevance between the question node and the graph entities. Our proposed approach shows competitive performance on two QA benchmarks, CommonsenseQA and OpenbookQA, compared to the state-of-the-art published results.

研究の動機と目的

• 知識グラフ部分グラフに存在する欠落または不完全な辺の課題に対処すること。
• KGに関連するエンティティ間の直接的な接続が欠落している場合の多ステップパスを介した推論を改善すること。
• 特に否定の表現を含む質問の意味を、質問とグラフエンティティ間の関連性をモデル化することで、グラフベースの推論により良く統合すること。
• トレーニング中にノード表現の関連性に基づいてエッジ接続を学習・適応する動的グラフニューラルネットワークアーキテクチャを構築すること。
• CommonsenseQAやOpenbookQAといったベンチマークQAデータセットで競争力のある性能を達成するとともに、否定的質問に対するロバスト性を向上させること。

提案手法

• DRGNは、質問と外部知識に基づいて知識グラフ部分グラフを構築し、質問ノードを中央エンティティとして含む。
• 現在の層でのノード表現の内積を用いて、すべてのノードペア間の動的関連スコアを計算し、各GNN層で関連性行列を形成する。
• 関連性行列を用いてメッセージパッシング中の隣接ノード寄与を再重み付けし、欠落または間接的な接続を回復できる動的エッジ生成を可能にする。
• KG部分グラフに複数の関係タイプを統合し、構造的情報を保持するため、関係型GNNバックボーン（R-GCN）を用いる。
• 質問ノードを埋め込み、すべてのエンティティに接続することで、質問と潜在的答え候補間の意味的関連性を注目できるようにする。
• 複数のGNN層を経て動的関連性集約が施された更新済みノード表現に分類器を適用することで、最終的な答えを予測する。

実験結果

リサーチクエスチョン

• RQ1 グラフニューラルネットワークは、知識グラフ部分グラフにおける欠落した辺を動的に回復させ、質問応答の多ステップ推論を向上させることができるか？
• RQ2 質問-エンティティ関連性を組み込むことで、否定を含む質問における性能はどのように向上するのか？（否定を考慮した推論が必要である。）
• RQ3 学習可能な関連性行列は、静的グラフ構造と比較して、ノード表現学習にどの程度向上効果をもたらすのか？
• RQ4 動的関連性メカニズムは、静的または固定エッジを持つグラフニューラルネットワークと比較して、知識認識型質問応答タスクで優れた性能を示すのか？
• RQ5 DRGNの個々の構成要素（例：質問ノード、関係型エッジ、動的関連性）は、全体の性能にどの程度寄与しているのか？

主な発見

• DRGNはCommonsenseQAベンチマークで78.2%の開発精度を達成し、アブレーション変種を著しく上回った。
• アブレーションスタディの結果、動的関連性行列の追加が最も大きな性能向上をもたらした（74.9%から78.2%に上昇）、これが中心的な役割を果たしていることを示した。
• グラフ内に質問ノードを含めることで、性能が73.7%から74.9%に向上した。これは、明示的な質問-エンティティ関連性モデリングの価値を確認した。
• OpenbookQAでも競争力ある性能を維持しており、1つのベンチマークにとどまらない汎用性を示した。
• GNN層の数を4層まで増やすことで性能が向上した。これは、動的関連性を伴うより深いメッセージパッシングが有益であることを示唆している。
• DRGNの時間計算量は、MHGRNなどのベースラインモデルと同等であり、動的関連性行列のため、空間計算量はわずかに高いが、性能向上の妥当性がある。