[论文解读] MoEL: Mixture of Empathetic Listeners

Zhaojiang Lin, Andrea Madotto+3 more|arXiv (Cornell University)|Aug 21, 2019

Topic Modeling参考文献 62被引用 7

一句话总结

MoEL 提出了一种新颖的端到端共情对话系统，通过使用多个针对特定情绪优化的专用倾听者（listeners），生成上下文恰当且情感响应得体的回复。通过根据预测的用户情绪动态关注最相关的倾听者，MoEL 在基线模型之上实现了更高的共情能力、流畅度和相关性，同时在响应生成过程中具有高度可解释性。

ABSTRACT

Previous research on empathetic dialogue systems has mostly focused on generating responses given certain emotions. However, being empathetic not only requires the ability of generating emotional responses, but more importantly, requires the understanding of user emotions and replying appropriately. In this paper, we propose a novel end-to-end approach for modeling empathy in dialogue systems: Mixture of Empathetic Listeners (MoEL). Our model first captures the user emotions and outputs an emotion distribution. Based on this, MoEL will softly combine the output states of the appropriate Listener(s), which are each optimized to react to certain emotions, and generate an empathetic response. Human evaluations on empathetic-dialogues (Rashkin et al., 2018) dataset confirm that MoEL outperforms multitask training baseline in terms of empathy, relevance, and fluency. Furthermore, the case study on generated responses of different Listeners shows high interpretability of our model.

研究动机与目标

• 为解决现有共情对话模型在情绪理解上存在缺陷或依赖固定情绪条件的问题。
• 开发一种模型，明确学习如何根据用户情绪理解选择合适的共情回应。
• 通过将响应生成解耦为针对特定情绪的专用解码器，提升响应的流畅度、相关性和共情能力。
• 通过分析单个倾听者的行为和注意力机制，增强模型的可解释性。

提出的方法

• 该模型使用情绪追踪器从对话上下文中预测用户的情绪状态，输出 n 种可能情绪的分布。
• 它采用 n 个专用解码器（称为‘倾听者’），每个倾听者专门训练用于生成特定情绪（如悲伤、愤怒、兴奋）的共情回应。
• 一个元倾听者（meta-listener）基于预测的情绪分布，使用软注意力机制动态组合这些倾听者的隐藏状态。
• 最终响应由元倾听者生成，该倾听者融合多个倾听者的信息，生成上下文和情感都恰当的回复。
• 该模型在 empathetic-dialogues 数据集上通过最大似然估计进行端到端训练，联合优化情绪分类与响应生成。
• 通过在受控情绪输入下分析单个倾听者的响应，增强了可解释性，证明了其情绪特异性行为。

实验结果

研究问题

• RQ1 对话系统能否通过理解用户的情绪状态，自动选择最合适的共情回应？
• RQ2 与统一的响应模型相比，将响应生成解耦为针对特定情绪的倾听者，如何提升共情能力和响应质量？
• RQ3 该模型的内部注意力机制在多大程度上能正确识别并利用对应情绪上下文的正确倾听者？
• RQ4 单个倾听者是否可被解释为学习了不同的情绪回应模式？在受控情绪输入下，它们的行为是否符合预期？
• RQ5 当单个话语中同时存在多种情绪时，该模型在处理多情绪上下文方面表现如何？

主要发现

• 在 Rashkin 等人（2018）的 empathetic-dialogues 数据集上，人类评估显示 MoEL 在共情、相关性和流畅度方面优于多任务训练基线模型，表现出更优的响应质量。
• 该模型具有高度可解释性，案例研究表明，当输入目标情绪时，单个倾听者能生成情感恰当的回应。
• 通过注意力分布可视化和情绪分类准确率验证，元倾听者能有效关注到基于预测情绪的正确倾听者。
• 在多情绪上下文中，MoEL 成功同时利用多个倾听者，生成能回应多种情绪（如害怕和恼怒）的回复，实现更全面的共情。
• 当上下文包含冲突或模糊的情绪线索时，模型偶尔会误分类情绪，导致倾听者选择欠佳及轻微事实错误（如代词错误），但整体仍保持稳健。