[论文解读] A Multi-Turn Emotionally Engaging Dialog Model

Yubo Xie, Ekaterina Svikhnushina+1 more|arXiv (Cornell University)|Aug 15, 2019

Speech and dialogue systems参考文献 53被引用 12

一句话总结

该论文提出MEED，一种多轮对话模型，通过使用带有集成情感追踪机制的分层RNN，直接从数据中学习情感交互，其在困惑度和人类评估方面均优于基线的seq2seq与HRAN模型，生成的情感恰当且上下文感知的回复。

ABSTRACT

Open-domain dialog systems (also known as chatbots) have increasingly drawn attention in natural language processing. Some of the recent work aims at incorporating affect information into sequence-to-sequence neural dialog modeling, making the response emotionally richer, while others use hand-crafted rules to determine the desired emotion response. However, they do not explicitly learn the subtle emotional interactions captured in human dialogs. In this paper, we propose a multi-turn dialog system aimed at learning and generating emotional responses that so far only humans know how to do. Compared with two baseline models, offline experiments show that our method performs the best in perplexity scores. Further human evaluations confirm that our chatbot can keep track of the conversation context and generate emotionally more appropriate responses while performing equally well on grammar.

研究动机与目标

• 开发一种数据驱动的端到端对话系统，无需依赖手工规则即可捕捉人类对话中的细微情感互动。
• 通过显式建模多轮对话中跨轮次的情感上下文，改进多轮对话生成，提升情感连贯性与参与度。
• 构建一个平衡的多轮对话数据集，适用于训练和评估情感智能聊天机器人。
• 设计一种人类评估协议，通过使用上下文恰当且情感平衡的对话，确保评估的客观性与相关性。
• 证明从数据中学习情感动态可生成比基于规则或通用seq2seq方法更自然、流畅且情感恰当的回复。

提出的方法

• 该模型使用分层RNN架构编码多轮对话历史，捕捉跨轮次的语义与情感上下文。
• 引入额外的情感RNN以处理并追踪每条话语中的情感状态，从原始数据中学习情感转移。
• 通过LIWC词典从VAD（效价、唤醒度、支配度）向量中提取情感表征，实现连续情感建模。
• 通过同时条件化于历史话语与学习到的情感状态，联合学习响应生成与情感上下文追踪。
• 在Cornell电影字幕数据集上进行预训练，随后在DailyDialog数据集上微调，使模型能够学习自然、闲聊风格且具备情感意识的回复。
• 该框架可扩展至基于Transformer的架构与预训练语言模型，未来工作计划采用BERT/RoBERTa以进一步提升性能。

实验结果

研究问题

• RQ1 是否能够通过数据驱动的端到端模型，在不依赖手工规则情感规则的前提下，学习到多轮对话中情感恰当的回复？
• RQ2 与单轮或通用seq2seq模型相比，建模跨轮次的情感动态如何提升回复质量？
• RQ3 在原始对话数据上训练的模型在多大程度上能复现类人的情感参与与上下文追踪能力？
• RQ4 如何设计人类评估以可靠地评估机器生成对话的情感恰当性与流畅性？
• RQ5 在分层对话架构中集成情感追踪是否能带来困惑度与人类评分回复质量的可测量提升？

主要发现

• MEED在困惑度方面优于标准seq2seq与HRAN基线模型，表明其语言建模能力更强。
• 人类评估确认，MEED生成的回复在情感恰当性方面显著优于两个基线模型，同时保持了相当的语法质量。
• 该模型成功实现了多轮对话中情感上下文的追踪，生成的回复能够反映对话中情感动态的演变。
• 通过使用VAD向量与数据驱动的情感学习，模型能够在推理阶段无需显式情感标签，即可生成情感细腻的回复。
• 采用上下文相关且情感平衡的对话进行人类评估的协议，降低了评判偏差，提升了结果可靠性。
• 在大规模电影字幕上进行预训练，并在DailyDialog上微调，显著增强了模型生成自然、吸引人且情感连贯回复的能力。