[論文レビュー] Joint Training of Candidate Extraction and Answer Selection for Reading Comprehension

Zhen Wang, Jiachen Liu+3 more|arXiv (Cornell University)|May 16, 2018

Topic Modeling参考文献 20被引用数 10

ひとこと要約

本稿では、複数の本文から答え候補を抽出した後、すべての候補の情報を統合して最終的な答えを選択する、オープンドメイン読解理解のための共同学習フレームワークを提案する。強化学習を用いて抽出と選択を共同最適化することで、Quasar-T および SearchQA で最先端の性能を達成し、候補統合と共同学習による主な向上効果が得られた。

ABSTRACT

While sophisticated neural-based techniques have been developed in reading comprehension, most approaches model the answer in an independent manner, ignoring its relations with other answer candidates. This problem can be even worse in open-domain scenarios, where candidates from multiple passages should be combined to answer a single question. In this paper, we formulate reading comprehension as an extract-then-select two-stage procedure. We first extract answer candidates from passages, then select the final answer by combining information from all the candidates. Furthermore, we regard candidate extraction as a latent variable and train the two-stage process jointly with reinforcement learning. As a result, our approach has improved the state-of-the-art performance significantly on two challenging open-domain reading comprehension datasets. Further analysis demonstrates the effectiveness of our model components, especially the information fusion of all the candidates and the joint training of the extract-then-select procedure.

研究の動機と目的

• 既存の読解理解モデルが答え予測を独立して扱うという制限を是正すること。これは、答え候補間の関係を無視するためである。
• オープンドメイン読解理解を2段階のプロセスとしてモデル化すること：まず候補抽出を行い、次にすべての候補からの情報を用いて答え選択を行うこと。
• 複数の異なる本文から抽出された複数の候補の表現を統合することで、答え選択のパフォーマンスを向上させること。
• 候補抽出を潜在変数とみなして、強化学習を用いて抽出段階と選択段階を共同で学習し、エンドツーエンドのパフォーマンスを最適化すること。
• 複雑な複数本文のオープンドメインQAにおいて、情報統合と共同学習の必要性と有効性を実証すること。

提案手法

• 読解理解を2段階のプロセスとして定式化する：まず神経抽出モデルを用いて本文から答え候補を抽出し、次に選択モデルを用いて最終的な答えを選択する。
• すべての抽出された候補の表現を統合するために、注目メカニズムに基づく相関行列を導入し、候補間の相互作用を可能にする。
• 候補抽出を潜在変数とみなして、強化学習を用いて抽出モデルと選択モデルを共同で学習し、エンドツーエンドのパフォーマンスを最適化する。
• 選択モデルの最適化にポリシー勾配法を用い、最終的な答え予測からのフィードバックに基づく。
• 選択段階における答えスパン予測にポインタネットを採用し、統合された候補表現に条件づけられる。
• 共同学習の目的関数を活用して、抽出モデルに後続の選択パフォーマンスを意識させる。

実験結果

リサーチクエスチョン

• RQ1 異なる本文から抽出された複数の答え候補からの情報統合は、オープンドメイン読解理解における答え選択パフォーマンスを向上させるか？
• RQ2 強化学習を用いて候補抽出と答え選択を共同で学習することは、独立した学習よりも優れたパフォーマンスをもたらすか？
• RQ3 抽出された候補の数が最終的な答え選択の正確性に与える影響は何か？
• RQ4 個々の候補表現と比較して、統合された候補表現の貢献度は何か？
• RQ5 オープンドメインの状況において、抽出・次に選択する2段階フレームワークは、エンドツーエンドの答え予測よりも効果的か？

主な発見

• 提案手法は、Quasar-T および SearchQA という2つのオープンドメイン読解理解ベンチマークで最先端のパフォーマンスを達成し、先行手法を上回った。
• 統合された候補表現を排除すると、Quasar-T でパフォーマンスがほぼ8%低下し、正確な答え選択においてその重要性が示された。
• 強化学習による共同学習はパフォーマンスを顕著に向上させ、両段階を同時に最適化することで、別々に学習するよりも優れた結果が得られることを示した。
• K=2 または K=3 の候補を抽出すると K=1 よりもパフォーマンスが向上したが、さらに K を増やすと性能向上が見られず、候補の質と選択の複雑さのトレードオフが示された。
• 注目マップの可視化により、特に P7 と P10 における「Cuba Libre」の候補間の相互作用が正しい答え予測を可能にしていることが確認され、モデルの推論プロセスの妥当性が裏付けられた。