[论文解读] Interconnected Question Generation with Coreference Alignment and Conversation Flow Modeling

Yifan Gao, Piji Li+2 more|arXiv (Cornell University)|Jun 17, 2019

Topic Modeling参考文献 27被引用 10

一句话总结

本文提出了一种用于对话式问题生成（CQG）的端到端神经模型，通过整合指代一致对齐与对话流程建模，生成相互关联、语境连贯的问题。该模型在自动评估与人工评估中均优于基线模型，通过显式指代追踪与跨篇章片段的动态焦点转移，显著提升了问题之间的关联性。

ABSTRACT

We study the problem of generating interconnected questions in question-answering style conversations. Compared with previous works which generate questions based on a single sentence (or paragraph), this setting is different in two major aspects: (1) Questions are highly conversational. Almost half of them refer back to conversation history using coreferences. (2) In a coherent conversation, questions have smooth transitions between turns. We propose an end-to-end neural model with coreference alignment and conversation flow modeling. The coreference alignment modeling explicitly aligns coreferent mentions in conversation history with corresponding pronominal references in generated questions, which makes generated questions interconnected to conversation history. The conversation flow modeling builds a coherent conversation by starting questioning on the first few sentences in a text passage and smoothly shifting the focus to later parts. Extensive experiments show that our system outperforms several baselines and can generate highly conversational questions. The code implementation is released at https://github.com/Evan-Gao/conversational-QG.

研究动机与目标

• 解决在对话式多轮问答设置中，问题依赖于先前对话历史的问答生成空白问题。
• 建模问题与对话历史之间的指代依赖关系，以支持问题中代词与省略结构的使用。
• 通过在对话轮次中从篇章早期部分逐步向后期部分动态转移关注点，确保对话流程的自然流畅。
• 开发一种端到端框架，联合优化问题生成的语法正确性、可回答性以及对话问题序列的关联性。

提出的方法

• 通过指针网络建模指代一致对齐，将生成问题中的代词与对话历史中的先行词对齐。
• 通过训练解码器以顺序、加权注意力的方式关注篇章片段，从早期片段开始，逐步将关注点向后期片段转移，从而建模对话流程。
• 模型使用分层编码器表示篇章内容，并采用双编码器机制分别编码对话历史与当前轮次的上下文。
• 采用多任务学习目标，联合优化问题生成、指代预测与篇章片段注意力对齐。
• 框架采用指针-生成网络并结合复制机制，以保持事实准确性并减少OOV（词汇表外）问题。
• 模型在CoQA数据集上进行端到端训练，结合交叉熵损失用于生成任务与对比损失用于指代对齐任务。

实验结果

研究问题

• RQ1 神经模型如何生成既语法正确又与先前对话轮次语境连贯的问题？
• RQ2 指代一致对齐在多大程度上能提升对话问题序列的连贯性与自然性？
• RQ3 建模篇章的叙事推进过程是否能增强对话中焦点在轮次间平滑转移的能力？
• RQ4 与单轮基线相比，对话流程建模的整合如何影响多轮问题生成的质量？
• RQ5 在提升人工评估的关联性方面，指代一致对齐与流程建模的相对贡献分别是什么？

主要发现

• 所提出的CFNet模型在关联性方面获得最高的人工评估得分（3分制下为2.67），显著优于PGNet（1.59）与MSNet（1.74），p值 < 0.01。
• CFNet在语法正确性（2.89/3）与可回答性（2.74/3）方面表现优异，表明其生成结果具有高度流畅性与事实相关性。
• 模型成功生成了依赖于对话历史的不完整问题，如'Why?'与'Of what?'，证明其具备强大的对话连贯性。
• 人工分析确认，指代一致对齐有效将问题中的代词与先前对话轮次中的先行词关联起来。
• 对话流程建模使关注点从篇章早期部分自然过渡到后期部分，如图1所示，符合人类对话的模式。
• 消融实验表明，指代一致对齐与对话流程建模均显著提升了关联性，其中指代一致对齐的独立贡献更强。