[论文解读] Joint Training of Candidate Extraction and Answer Selection for Reading Comprehension

Zhen Wang, Jiachen Liu+3 more|arXiv (Cornell University)|May 16, 2018

Topic Modeling参考文献 20被引用 10

一句话总结

本文提出了一种开放域阅读理解的联合训练框架，首先从多个段落中提取答案候选，然后通过融合所有候选信息来选择最终答案。利用强化学习联合优化提取与选择过程，该方法在Quasar-T和SearchQA数据集上取得了最先进性能，关键优势来自候选融合与联合训练。

ABSTRACT

While sophisticated neural-based techniques have been developed in reading comprehension, most approaches model the answer in an independent manner, ignoring its relations with other answer candidates. This problem can be even worse in open-domain scenarios, where candidates from multiple passages should be combined to answer a single question. In this paper, we formulate reading comprehension as an extract-then-select two-stage procedure. We first extract answer candidates from passages, then select the final answer by combining information from all the candidates. Furthermore, we regard candidate extraction as a latent variable and train the two-stage process jointly with reinforcement learning. As a result, our approach has improved the state-of-the-art performance significantly on two challenging open-domain reading comprehension datasets. Further analysis demonstrates the effectiveness of our model components, especially the information fusion of all the candidates and the joint training of the extract-then-select procedure.

研究动机与目标

• 为解决现有阅读理解模型将答案预测视为孤立过程、忽略答案候选之间关系的局限性。
• 将开放域阅读理解建模为两阶段过程：先提取候选答案，再利用所有候选信息进行最终答案选择。
• 通过融合从不同段落中提取的多个候选答案的表征，提升答案选择性能。
• 通过强化学习联合训练提取与选择阶段，将候选提取视为潜在变量，以优化端到端性能。
• 证明在复杂、多段落开放域问答任务中，信息融合与联合训练的必要性与有效性。

提出的方法

• 将阅读理解建模为两阶段过程：首先使用神经提取模型从段落中提取答案候选，然后使用选择模型选出最终答案。
• 引入基于注意力的相关性矩阵，融合所有提取候选的表征，实现候选之间的信息交互。
• 将候选提取视为潜在变量，通过强化学习联合训练提取与选择模型，以优化端到端性能。
• 在强化学习中采用策略梯度方法，根据最终答案预测的反馈来优化选择模型。
• 在选择阶段使用指针网络进行答案跨度预测，其输入为融合后的候选表征。
• 利用联合训练目标，使提取模型能够感知下游选择性能。

实验结果

研究问题

• RQ1 从不同段落中提取的多个答案候选的信息融合，是否能提升开放域阅读理解中的答案选择性能？
• RQ2 通过强化学习联合训练候选提取与答案选择，是否能优于独立训练？
• RQ3 提取的候选数量如何影响最终答案选择的准确率？
• RQ4 与单一候选表征相比，融合后的候选表征贡献如何？
• RQ5 在开放域场景下，提取-再选择的两阶段框架是否比端到端答案预测更有效？

主要发现

• 所提方法在两个开放域阅读理解基准Quasar-T和SearchQA上均达到最先进性能，优于先前方法。
• 若舍弃融合后的候选表征，Quasar-T上的性能几乎下降8%，证明其在准确答案选择中的关键作用。
• 通过强化学习进行联合训练显著提升性能，表明联合优化两阶段能获得优于独立训练的结果。
• 使用K=2或K=3个候选时性能优于K=1，但进一步增加K值不再提升性能，表明候选质量与选择复杂度之间存在权衡。
• 注意力图可视化显示，候选之间（尤其是P7与P10中的"Cuba Libre"）的交互有助于正确答案预测，验证了模型的推理过程。