[论文解读] Dynamic Fusion Networks for Machine Reading Comprehension

Yichong Xu, Jingjing Liu+3 more|arXiv (Cornell University)|Nov 14, 2017

Topic Modeling参考文献 24被引用 20

一句话总结

本文提出动态融合网络（DFN），一种用于机器阅读理解的新型神经网络模型，通过强化学习动态选择每个输入样本的注意力策略与推理步骤。DFN在RACE数据集上达到最先进性能，通过联合优化动态融合与多步推理，超越了先前模型。

ABSTRACT

This paper presents a novel neural model - Dynamic Fusion Network (DFN), for machine reading comprehension (MRC). DFNs differ from most state-of-the-art models in their use of a dynamic multi-strategy attention process, in which passages, questions and answer candidates are jointly fused into attention vectors, along with a dynamic multi-step reasoning module for generating answers. With the use of reinforcement learning, for each input sample that consists of a question, a passage and a list of candidate answers, an instance of DFN with a sample-specific network architecture can be dynamically constructed by determining what attention strategy to apply and how many reasoning steps to take. Experiments show that DFNs achieve the best result reported on RACE, a challenging MRC dataset that contains real human reading questions in a wide variety of types. A detailed empirical analysis also demonstrates that DFNs can produce attention vectors that summarize information from questions, passages and answer candidates more effectively than other popular MRC models.

研究动机与目标

• 解决现有MRC模型中静态注意力与推理策略的局限性，这些策略在多样化的真实问题类型上表现欠佳。
• 使模型能够根据输入复杂度与问题类型，自适应地选择最有效的注意力机制与推理步数。
• 通过强化学习学习动态、样本特定的模型结构，提升在多样化MRC任务上的泛化能力。
• 证明动态融合与多步推理的联合优化可在具有挑战性的MRC基准上带来显著的性能提升。

提出的方法

• 采用动态多策略注意力机制，根据输入上下文从多种注意力机制（如积分式、纠缠式、仅答案式）中选择最优策略。
• 利用由强化学习控制的策略门，为每个输入样本确定最优注意力机制。
• 实现动态多步推理模块，通过强化学习学习每个样本的推理步数。
• 通过组合选定的注意力策略与推理步数，实时构建样本特定的DFN架构。
• 使用深度强化学习训练策略网络，以最大化答案准确率，奖励函数基于预测正确性进行设计。
• 将动态融合层与答案评分模块集成，生成候选答案的最终得分以供选择。

实验结果

研究问题

• RQ1 神经网络MRC模型能否针对每个输入动态选择注意力策略与推理步数，从而提升在多样化问题类型上的表现？
• RQ2 动态融合与多步推理的联合优化是否能相对于静态基线模型带来统计上显著的性能提升？
• RQ3 不同注意力策略（如纠缠式、仅答案式）与特定问题类型或关键词之间存在何种相关性？
• RQ4 通过强化学习实现的动态架构构建在跨领域MRC任务上的泛化能力提升程度如何？
• RQ5 模型的内部决策过程（如策略与步数选择）能否提供其推理行为的可解释性洞察？

主要发现

• DFN在RACE数据集上取得50.6%的测试准确率，为发表时报告的最佳结果。
• 消融实验表明，移除动态融合或多步推理分别导致性能下降1.1%与1.2%，表明两个组件均不可或缺。
• 完整DFN模型相比同时移除两个组件的消融模型提升1.6个百分点，且差异具有统计显著性（p < 0.01）。
• 模型根据问题关键词动态选择注意力策略——例如，'not'与'except'等关键词更倾向于选择仅答案式注意力，并配合五步推理。
• 需要隐式推理的问题（如原因识别、概念计数）更可能触发纠缠式注意力，此类问题中70%使用了纠缠式注意力。
• 动态融合与多步推理的结合带来协同增益效应，单独使用任一组件均无法达到同等性能提升。