[論文レビュー] Building Dynamic Knowledge Graphs from Text using Machine Reading Comprehension

Rajarshi Das, Tsendsuren Munkhdalai+3 more|arXiv (Cornell University)|Oct 12, 2018

Topic Modeling被引用数 43

ひとこと要約

Kg-Mrc は手順的テキストから動的知識グラフを構築し、進化するグラフに条件付けられた MRC コンポーネントを使用してエンティティ状態を問合せ、ProPara タスクで最先端の結果を達成し、Recipes で競争力の性能を示す。

ABSTRACT

We propose a neural machine-reading model that constructs dynamic knowledge graphs from procedural text. It builds these graphs recurrently for each step of the described procedure, and uses them to track the evolving states of participant entities. We harness and extend a recently proposed machine reading comprehension (MRC) model to query for entity states, since these states are generally communicated in spans of text and MRC models perform well in extracting entity-centric spans. The explicit, structured, and evolving knowledge graph representations that our model constructs can be used in downstream question answering tasks to improve machine comprehension of text, as we demonstrate empirically. On two comprehension tasks from the recently proposed PROPARA dataset (Dalvi et al., 2018), our model achieves state-of-the-art results. We further show that our model is competitive on the RECIPES dataset (Kiddon et al., 2015), suggesting it may be generally applicable. We present some evidence that the model's knowledge graphs help it to impose commonsense constraints on its predictions.

研究の動機と目的

• 手順的テキストから動的知識グラフを構築する課題に動機づけ、対処する。
• 時間とともにエンティティの状態を追跡するためにグラフを再帰的に構築・更新するニューラルモデル Kg-Mrc を紹介する。
• 進化するグラフに条件付けられた MRC モジュールが読解タスクの性能を向上させることを示す。
• ProPara タスクで最先端の結果を、Recipes で競争力のある結果を示す。
• 学習されたグラフがどのように常識的制約を課し、推論を支援するかの分析を提供する。

提案手法

• 各参加エンティティを、動的二部グラフ（エンティティとそれらの現在位置）内の専用ノードで表現する。
• 機械読解（MRC）モデル（DrQAに着想を得たもの）を拡張し、各時刻におけるエンティティ状態を現在のグラフ埋込みに条件付けて問合せる。
• 時刻を跨ぐソフト共参照更新を実行し、重複ノードを作成せずに別名参照を扱う。
• 残差接続とエンティティ間情報フローを備えた多層LSTMベースのグラフ更新機で、時刻を跨いでグラフノードを再帰的に更新する。
• MRCスパンレベル損失を用いてエンドツーエンドに訓練し、グラフ更新はMRCの監督を通じて暗黙的に学習される。

実験結果

リサーチクエスチョン

• RQ1 動的で明示的に構築された知識グラフは、手順的テキストにおけるエンティティ状態の変化を追跡できるのか？
• RQ2 進化するグラフ表現に基づいてMRCコンポーネントを条件付けることで、エンティティ状態の抽出と下流のQAが改善されるのか？
• RQ3 ソフト共参照機構は、時刻を跨るエンティティ表現の安定性と一貫性を向上させるのか？
• RQ4 Kg-Mrc は ProPara のセンテンスレベルおよびドキュメントレベルのタスクと Recipes データセットでどう性能を示すのか？

主な発見

モデル	カテゴリ1	カテゴリ2	カテゴリ3	マクロ平均	マイクロ平均
Kg-Mrc (ours)	62.86	40.00	38.23	47.03	46.62
ProGlobal (Dalvi et al., 2018)	62.95	36.39	35.90	45.08	45.37
Pro-Local (Dalvi et al., 2018)	62.65	30.50	10.35	34.50	33.96
EntNet (Henaff et al., 2017)	51.62	18.83	7.77	26.07	25.96

• Kg-Mrc は ProPara のセンテンスレベルおよびドキュメントレベルのタスクで最先端の結果を達成し、従来モデルを上回っている。
• タスク1では、Kg-Mrc は以前の手法に対してマクロ平均・マイクロ平均の改善を達成し、特に正確な状態変化を要する細かなカテゴリで顕著である。
• タスク2では、Kg-Mrc は前ベスト（ProStruct）よりF1を3.02ポイント改善し、より強いグローバル整合性を示す。
• Recipes では、Kg-Mrc は 1万の訓練例しか使わずにNPNベースラインをわずかに上回り、良好な一般化を示している。
• アブレーション解析では、ソフト共参照（時刻を跨ぐおよび時刻内の共参照）と再帰的グラフモジュールが性能および常識的制約の遵守に大きく寄与することが示された。