[论文解读] Neural Personalized Response Generation as Domain Adaptation

Weinan Zhang, Ting Liu+2 more|arXiv (Cornell University)|Jan 9, 2017

Topic Modeling参考文献 45被引用 16

一句话总结

本文提出了一种两阶段神经响应生成框架——初始化后适应——其中通用序列到序列模型首先在大规模对话数据上进行预训练，然后在个性化数据上微调，以捕捉个体的说话风格。该方法在生成响应中实现了显著的词汇和风格差异，证明了在个性化对话代理中有效进行领域自适应的能力。

ABSTRACT

In this paper, we focus on the personalized response generation for conversational systems. Based on the sequence to sequence learning, especially the encoder-decoder framework, we propose a two-phase approach, namely initialization then adaptation, to model the responding style of human and then generate personalized responses. For evaluation, we propose a novel human aided method to evaluate the performance of the personalized response generation models by online real-time conversation and offline human judgement. Moreover, the lexical divergence of the responses generated by the 5 personalized models indicates that the proposed two-phase approach achieves good results on modeling the responding style of human and generating personalized responses for the conversational systems.

研究动机与目标

• 通过建模个体说话风格，解决对话系统中个性化响应生成的不足。
• 通过领域自适应将通用模型适配至个体用户偏好，以改进响应生成。
• 开发一种新颖的人工辅助评估方法，结合实时对话与离线人工判断，以评估个性模仿程度。
• 验证所提方法能否有效捕捉并再现对话生成中不同个体的响应风格。

提出的方法

• 该方法采用两阶段训练方案：首先在大规模通用对话数据上对序列到序列模型进行预训练（初始化），然后在小规模个性化数据上进行微调（适应）。
• 编码器-解码器框架采用GRU或LSTM网络，将输入话语编码为上下文向量，并将其解码为响应序列。
• 解码器基于编码器生成的上下文向量进行条件生成，并使用非线性函数逐词生成响应。
• 通过在个体用户数据上微调预训练模型，实现个性化，使模型能够适应不同的说话风格。
• 提出一种新颖的人工辅助评估协议，结合实时在线对话与离线人工判断，以评估个性保真度。
• 通过词汇差异分析与词重叠分析，对在不同用户数据上训练的模型生成的风格差异进行定量评估。

实验结果

研究问题

• RQ1 序列到序列模型能否有效学习并再现个体在响应生成中的说话风格？
• RQ2 两阶段初始化-再适应方法相较于标准序列到序列模型，在捕捉个性化响应模式方面表现如何？
• RQ3 该模型在多大程度上能生成被感知为与特定个体风格一致的响应？
• RQ4 所提出的基于人工辅助的评估方法在衡量生成响应中个性模仿程度方面的有效性如何？

主要发现

• 两阶段方法成功建模了五名不同志愿者的独特回应风格，表现为生成响应中显著的词汇差异。
• 通过在通用预训练后对小规模个性化数据进行微调，模型在个性化方面表现显著提升。
• 结合在线实时对话与离线人工判断的评估结果表明，模型生成的响应被感知为与目标个体风格一致。
• 对词重叠与词汇分布的分析显示，五种个性化模型生成的响应具有独特的词汇模式，表明风格建模有效。
• 结果证实，通过初始化-再适应方式实现的领域自适应，增强了模型生成上下文和风格恰当响应的能力。
• 所提方法在捕捉对话生成中个体人格特征方面，优于标准序列到序列模型。