[论文解读] Personalization in Goal-Oriented Dialog

Chaitanya K. Joshi, Fei Mi+1 more|arXiv (Cornell University)|Jun 22, 2017

Topic Modeling参考文献 12被引用 63

一句话总结

本文提出了一个受说话者档案影响的目标驱动对话数据集，并提出了面向端到端对话系统个性化的架构和多任务学习方法。它分析基于 Memory Networks 的对话模型，表明共享特征的多任务模型在性能上可超过每个档案模型。

ABSTRACT

The main goal of modeling human conversation is to create agents which can interact with people in both open-ended and goal-oriented scenarios. End-to-end trained neural dialog systems are an important line of research for such generalized dialog models as they do not resort to any situation-specific handcrafting of rules. However, incorporating personalization into such systems is a largely unexplored topic as there are no existing corpora to facilitate such work. In this paper, we present a new dataset of goal-oriented dialogs which are influenced by speaker profiles attached to them. We analyze the shortcomings of an existing end-to-end dialog system based on Memory Networks and propose modifications to the architecture which enable personalization. We also investigate personalization in dialog as a multi-task learning problem, and show that a single model which shares features among various profiles outperforms separate models for each profile.

研究动机与目标

• 为端到端目标导向对话系统中个性化的必要性提供动机。
• 引入数据资源：附带说话者档案的目标导向对话。
• 评估一个现有的基于 Memory Networks 的对话模型并提出面向个性化的修改。
• 研究多任务学习作为跨档案共享特征并提高性能的途径。

提出的方法

• 分析一个基于 Memory Networks 的端到端对话系统，并识别其个性化的不足。
• 提出架构修改以在对话模型中实现个性化。
• 将个性化框架化为多任务学习问题，并比较单一共享模型方法与档案特定模型。
• 评估跨档案共享特征学习的好处与孤立模型的对比。
• 提供代码和数据以促进复现和进一步研究。

实验结果

研究问题

• RQ1 是否可以将基于 Memory Networks 的对话模型扩展为包含说话者档案个性化？
• RQ2 架构修改是否能够在目标导向的对话系统中实现有效个性化？
• RQ3 在跨档案共享特征的单一多任务模型是否优于为每个档案分开模型？

主要发现

• 通过修改 Memory Networks 的架构，可以在目标导向对话中实现个性化。
• 采用跨档案共享特征的多任务学习方法可优于分离的逐档案模型。
• 跨档案共享表示可以在不为每个档案创建独立模型的情况下改进个性化。