[论文解读] Focused Hierarchical RNNs for Conditional Sequence Processing

Nan Rosemary Ke, Konrad Żołna+7 more|arXiv (Cornell University)|Jun 12, 2018

Topic Modeling参考文献 30被引用 14

一句话总结

本文提出了一种聚焦式层次RNN（FHE），通过使用离散的、上下文相关的门控机制，选择性地编码用于问答的相关输入片段。通过使用策略梯度训练门控机制，并在高层表示上应用软注意力机制，该模型在MS MARCO和SearchQA数据集上实现了最先进性能，相较于强基线模型，在泛化能力和答案质量方面均有显著提升。

ABSTRACT

Recurrent Neural Networks (RNNs) with attention mechanisms have obtained state-of-the-art results for many sequence processing tasks. Most of these models use a simple form of encoder with attention that looks over the entire sequence and assigns a weight to each token independently. We present a mechanism for focusing RNN encoders for sequence modelling tasks which allows them to attend to key parts of the input as needed. We formulate this using a multi-layer conditional sequence encoder that reads in one token at a time and makes a discrete decision on whether the token is relevant to the context or question being asked. The discrete gating mechanism takes in the context embedding and the current hidden state as inputs and controls information flow into the layer above. We train it using policy gradient methods. We evaluate this method on several types of tasks with different attributes. First, we evaluate the method on synthetic tasks which allow us to evaluate the model for its generalization ability and probe the behavior of the gates in more controlled settings. We then evaluate this approach on large scale Question Answering tasks including the challenging MS MARCO and SearchQA tasks. Our models shows consistent improvements for both tasks over prior work and our baselines. It has also shown to generalize significantly better on synthetic tasks as compared to the baselines.

研究动机与目标

• 通过使RNN编码器基于上下文或问题选择性地关注相关输入片段，提升条件生成任务中的序列建模能力。
• 开发一种离散的、随机的门控机制，以控制层次RNN架构中从词级到概念级表示的信息流动。
• 使用强化学习（策略梯度）训练门控机制，以优化下游任务性能。
• 在合成任务和真实世界问答基准（如MS MARCO和SearchQA）上评估模型的泛化能力和注意力行为。
• 通过结构化、上下文感知的编码方式，缩小跨度抽取式与生成式问答模型之间的差距，实现更好的答案泛化能力。

提出的方法

• 该模型采用两层LSTM架构：下层按顺序处理输入标记，上层则捕捉相关子序列的高层表示。
• 一个由当前下层隐藏状态和问题嵌入共同决定的条件边界门控机制，决定何时将当前标记组的摘要更新至上层LSTM。
• 门控机制通过策略梯度方法进行训练，以最大化任务奖励（如BLEU或ROUGE分数），从而实现端到端的可微分选择性注意力学习。
• 仅当门控打开时，上层LSTM状态才会被更新，使模型能够基于上下文对相关信息进行分组与压缩。
• 在上层隐藏状态上应用软注意力机制以生成答案，实现对文档关键部分的动态聚焦。
• 模型引入了指针-softmax机制以处理低频词汇，显著提升了在大规模数据集（如MS MARCO）中对罕见词的生成能力。

实验结果

研究问题

• RQ1 离散的、上下文相关的门控机制是否能提升RNN编码器在序列建模任务中对相关输入片段的关注能力？
• RQ2 使用策略梯度训练门控机制是否能在具有可控输入-输出关系的合成任务中带来更好的泛化性能？
• RQ3 聚焦式层次编码器在大规模真实世界问答基准（如MS MARCO和SearchQA）上的性能提升程度如何？
• RQ4 所学习到的边界机制与注意力机制相较于标准注意力机制，在答案质量与泛化能力方面有何贡献？
• RQ5 具备结构化编码的生成式问答模型是否能在答案泛化能力上超越跨度抽取式模型，同时在标准指标上保持强劲表现？

主要发现

• 在MS MARCO数据集上，该模型优于所有对比方法，在BLEU-1和ROUGE-L分数上均达到最先进水平。
• 在SearchQA基准上，该模型显著优于先前工作，包括Buck等人（2018）提出的近期方法。
• 消融实验表明，问题与上下文嵌入之间的逐元素乘积带来了最大的性能提升，凸显其在上下文融合中的关键作用。
• 指针-softmax机制对性能有显著贡献，尤其在处理罕见词汇方面表现突出，这些词汇在MS MARCO中约占词汇表的90%。
• 所学习到的边界机制对性能至关重要，若将其移除，准确率将出现显著下降，验证了其在结构化编码中的核心作用。
• 人工评估显示，63%的志愿者更倾向于该模型生成的答案，而非强基线LSTM模型的输出，表明其在答案质量与连贯性方面有明显提升。