[论文解读] An Empirical Analysis of Multiple-Turn Reasoning Strategies in Reading Comprehension Tasks

Yelong Shen, Xiaodong Liu+2 more|arXiv (Cornell University)|Nov 8, 2017

Topic Modeling参考文献 29被引用 14

一句话总结

本文通过使用带有迭代注意力和强化学习的增强型 ReasoNet 模型，研究了阅读理解中的多轮推理，以动态控制推理轮次。结果表明，与单轮推理相比，多轮推理在 SQuAD 和 MS MARCO 上始终表现更优，灵活的轮次数量优于固定策略，实现了具有竞争力的最先进性能。

ABSTRACT

Reading comprehension (RC) is a challenging task that requires synthesis of information across sentences and multiple turns of reasoning. Using a state-of-the-art RC model, we empirically investigate the performance of single-turn and multiple-turn reasoning on the SQuAD and MS MARCO datasets. The RC model is an end-to-end neural network with iterative attention, and uses reinforcement learning to dynamically control the number of turns. We find that multiple-turn reasoning outperforms single-turn reasoning for all question and answer types; further, we observe that enabling a flexible number of turns generally improves upon a fixed multiple-turn strategy. %across all question types, and is particularly beneficial to questions with lengthy, descriptive answers. We achieve results competitive to the state-of-the-art on these two datasets.

研究动机与目标

• 为了实证评估多轮推理策略在神经阅读理解模型中的有效性。
• 为了在 SQuAD 和 MS MARCO 上，针对不同类型的问答问题，比较单轮与多轮推理的表现。
• 为了分析动态确定推理轮次数是否优于固定轮次策略。
• 为了通过引入子词嵌入和段落排序，扩展 ReasoNet 模型以提升鲁棒性和性能。
• 在 SQuAD 和 MS MARCO 上实现具有竞争力的性能，同时为神经模型中的推理动态提供洞察。

提出的方法

• ReasoNet++ 模型使用端到端神经网络，结合迭代注意力机制，在同一段落上模拟多轮推理。
• 采用强化学习训练模型，使其基于终止信号动态决定推理何时终止。
• 模型通过嵌入层和编码器层处理问题和段落，随后通过交叉注意力生成问题感知和段落感知的表示。
• 中间推理状态（S_t）通过 GRU 迭代更新，仅在终止时生成答案。
• 为提升词表示的鲁棒性，引入了子词级别嵌入（字符和 3-gram）。
• 在 MS MARCO 中，通过外部信息检索模型集成段落排序，以在答案抽取前选择相关段落。

实验结果

研究问题

• RQ1 在 SQuAD 和 MS MARCO 上，不同问题和答案类型中，多轮推理是否优于单轮推理？
• RQ2 灵活的、由模型动态决定的推理轮次数是否优于固定轮次？
• RQ3 子词嵌入和段落排序对阅读理解任务中模型性能有何影响？
• RQ4 与最先进方法相比，ReasoNet++ 模型在 SQuAD 和 MS MARCO 上实现了多大程度的竞争力表现？
• RQ5 迭代推理在处理复杂推理类型（如指代消解和多句融合）方面有何贡献？

主要发现

• 在 SQuAD 和 MS MARCO 的所有问题和答案类型中，多轮推理均优于单轮推理。
• 动态轮次控制策略（即为每个实例学习最优推理轮次数）的表现优于固定多轮策略。
• 添加子词嵌入（字符和 3-gram）使 SQuAD 的 F1 提升 1.1 分，MS MARCO 的 ROUGE 提升 0.9 分。
• 在使用最优段落排序的情况下，MS MARCO 的性能达到 62.83 BLEU 和 63.17 ROUGE-L，表明通过端到端联合训练仍有显著提升空间。
• ReasoNet++ 模型在 MS MARCO 测试集上达到 75.0/82.6 的 EM/F1，在 SQuAD 上达到 70.6/79.36 的 EM/F1，表现与最先进模型具有竞争力。
• 人类在 SQuAD 上的表现为 82.3% 的 EM 和 91.2% 的 F1，表明当前模型仍有差距，但 ReasoNet++ 展现出强劲性能。