[论文解读] Generating Long and Diverse Responses with Neural Conversation Models

Louis Yuanlong Shao, Stephan Gouws+4 more|arXiv (Cornell University)|Apr 24, 2017

Topic Modeling被引用 60

一句话总结

本文提出了一种新型的神经对话模型训练与解码框架，可提升响应长度、连贯性与多样性。通过在解码器中引入自注意力机制，采用glimpse-model实现可扩展训练，并结合逐段重排序的随机束搜索策略，该方法生成的响应更长、更连贯、更具多样性——人类评估结果表明，无论响应长度如何，其可接受性与质量均优于基线模型。

ABSTRACT

Building general-purpose conversation agents is a very challenging task, but necessary on the road toward intelligent agents that can interact with humans in natural language. Neural conversation models -- purely data-driven systems trained end-to-end on dialogue corpora -- have shown great promise recently, yet they often produce short and generic responses. This work presents new training and decoding methods that improve the quality, coherence, and diversity of long responses generated using sequence-to-sequence models. Our approach adds self-attention to the decoder to maintain coherence in longer responses, and we propose a practical approach, called the glimpse-model, for scaling to large datasets. We introduce a stochastic beam-search algorithm with segment-by-segment reranking which lets us inject diversity earlier in the generation process. We trained on a combined data set of over 2.3B conversation messages mined from the web. In human evaluation studies, our method produces longer responses overall, with a higher proportion rated as acceptable and excellent as length increases, compared to baseline sequence-to-sequence models with explicit length-promotion. A back-off strategy produces better responses overall, in the full spectrum of lengths.

研究动机与目标

• 解决神经对话模型中响应过短且通用的问题。
• 提升长序列对话生成中的连贯性与多样性。
• 将序列到序列模型扩展至大规模网络爬取对话数据集。
• 开发一种能早期促进多样性的解码策略。
• 在不同响应长度范围内实现更高的人工评分质量。

提出的方法

• 在解码器中引入自注意力机制，以在长响应中保持连贯性。
• 提出glimpse-model，实现对超过23亿条消息的大规模数据集的高效训练。
• 开发一种结合逐段重排序的随机束搜索算法，以在生成早期阶段注入多样性。
• 采用回退策略，提升所有长度响应的质量。
• 在整合的网络挖掘对话消息数据集上端到端进行训练。
• 通过人工评估来衡量响应质量、长度与可接受性。

实验结果

研究问题

• RQ1 解码器中的自注意力机制能否提升长对话响应的连贯性？
• RQ2 如何有效在响应生成过程早期注入多样性？
• RQ3 glimpse-model能否实现对大规模对话数据集的可扩展训练？
• RQ4 所提出的解码策略是否在生成更长、更高质量响应方面优于基线模型？
• RQ5 在所提方法下，响应质量如何随不同长度变化？

主要发现

• 与采用显式长度提升的基线模型相比，该方法在响应长度增加时，生成更长响应，且更高比例的响应被评为可接受或优秀。
• 人工评估显示，该方法在全长度范围内均生成更优响应，尤其在连贯性与多样性方面表现更佳。
• 回退策略显著提升了整体响应质量，在所有响应长度上均持续优于基线模型。
• glimpse-model实现了对超过23亿条对话消息的有效训练，支持模型可扩展性。
• 结合逐段重排序的随机束搜索成功增强了生成响应的多样性。
• 解码器中的自注意力机制有助于提升长序列对话生成的连贯性。