[论文解读] An Attentional Neural Conversation Model with Improved Specificity

Kaisheng Yao, Baolin Peng+2 more|arXiv (Cornell University)|Jun 3, 2016

Topic Modeling参考文献 27被引用 28

一句话总结

本文提出了一种注意力神经对话模型，通过在训练目标中引入逆文档频率（IDF），利用强化学习优化以生成信息丰富、非通用的输出，从而提升响应的特定性。该模型结合了分层编码器-解码器与意图感知注意力机制，在帮助台数据集上的生成式和基于检索的对话任务中均取得了最先进性能。

ABSTRACT

In this paper we propose a neural conversation model for conducting dialogues. We demonstrate the use of this model to generate help desk responses, where users are asking questions about PC applications. Our model is distinguished by two characteristics. First, it models intention across turns with a recurrent network, and incorporates an attention model that is conditioned on the representation of intention. Secondly, it avoids generating non-specific responses by incorporating an IDF term in the objective function. The model is evaluated both as a pure generation model in which a help-desk response is generated from scratch, and as a retrieval model with performance measured using recall rates of the correct response. Experimental results indicate that the model outperforms previously proposed neural conversation architectures, and that using specificity in the objective function significantly improves performances for both generation and retrieval.

研究动机与目标

• 为解决神经对话模型中通用、不具体的响应问题，此类问题在任务导向场景中限制了实际可用性。
• 通过使用带有注意力机制的分层循环网络建模多轮对话中的对话意图，改进响应生成。
• 直接将特定性纳入训练目标，使用IDF作为奖励信号，避免需要双模型训练。
• 不仅在生成模式下评估模型，还在基于检索的对话中进行评估，证明其通用性。
• 表明特定性正则化显著提升了生成与检索基准上的性能。

提出的方法

• 采用分层编码器-解码框架，并设置独立的意图网络以建模多轮对话中的上下文。
• 在解码器中使用基于意图向量条件化的注意力机制，使模型能够动态聚焦于输入的相关部分。
• 引入强化学习训练目标，其中奖励信号为生成响应的IDF值，以促进使用较少见、更具特定性的词汇。
• 在检索模式下应用TF-IDF加权，通过将模型输出得分与TF-IDF相似度得分相结合，筛选候选响应。
• 使用排序准则进行模型训练，以优化高奖励（高IDF）响应，从而同时提升生成与检索性能。
• 使用t-SNE可视化意图向量，确认模型在无显式标注的情况下学习到了语义上合理、与意图相关的表征。

实验结果

研究问题

• RQ1 基于学习到的意图表征条件化的注意力机制，是否能提升神经对话模型中的响应质量？
• RQ2 在训练目标中引入IDF作为奖励信号，是否能相比标准生成方法生成更具特定性与信息量的响应？
• RQ3 同一模型架构是否能在生成式与基于检索的对话设置中均实现优异性能？
• RQ4 与现有方法（如Li等人，2016年提出的双模型MMI方法）相比，所提出的特定性正则化在性能与计算成本方面表现如何？
• RQ5 将模型输出与TF-IDF结合，相较于基线方法，能在多大程度上提升检索性能？

主要发现

• IR-AWI模型（带IDF正则化）在响应生成方面优于标准AWI模型与AWI+MMI模型，生成的响应更具特定性与上下文相关性。
• 在检索评估中，IR-AWI模型达到R@1为40.70%与R@5为85.39%，显著优于TF-IDF基线（28.54%与73.95%）与单独的AWI模型（33.57%与77.01%）。
• 意图向量的t-SNE可视化显示，按响应类型（如问候、结束语）呈现清晰聚类，表明模型学习到了有意义的、与意图相关的表征。
• 模型生成的示例显示，IR-AWI能生成更具特定性的响应——如请求产品密钥或特定URL——而基线AWI模型则生成更通用的回应。
• 基于IDF的训练方法在性能上优于Li等人（2016年）提出的双模型MMI方法，同时避免了训练两个独立模型所带来的双重计算开销。
• 该模型展现出强大的可迁移性，在端到端生成与基于检索的对话系统中均表现优异，验证了其鲁棒性与泛化能力。