[论文解读] EmpDG: Multiresolution Interactive Empathetic Dialogue Generation

Qintong Li, Hongshen Chen+4 more|arXiv (Cornell University)|Nov 20, 2019

Topic Modeling参考文献 62被引用 11

一句话总结

本文提出 EmpDG，一种用于共情对话生成的多分辨率对抗性模型，通过联合建模粗粒度的对话级情感与细粒度的标记级情感，提升回复中的情感细微差别。该方法进一步引入一种基于用户反馈的交互式对抗性框架，以增强对情感的感知能力，在 EmpatheticDialogues 数据集上的内容质量和共情指标方面显著优于最先进基线模型。

ABSTRACT

A humanized dialogue system is expected to generate empathetic replies, which should be sensitive to the users' expressed emotion. The task of empathetic dialogue generation is proposed to address this problem. The essential challenges lie in accurately capturing the nuances of human emotion and considering the potential of user feedback, which are overlooked by the majority of existing work. In response to this problem, we propose a multi-resolution adversarial model -- EmpDG, to generate more empathetic responses. EmpDG exploits both the coarse-grained dialogue-level and fine-grained token-level emotions, the latter of which helps to better capture the nuances of user emotion. In addition, we introduce an interactive adversarial learning framework which exploits the user feedback, to identify whether the generated responses evoke emotion perceptivity in dialogues. Experimental results show that the proposed approach significantly outperforms the state-of-the-art baselines in both content quality and emotion perceptivity.

研究动机与目标

• 为解决现有模型在对话生成中捕捉人类情感细微差别的局限性。
• 将用户反馈作为动态信号，以提升生成回复的情感感知能力。
• 开发一种整合对话级与标记级情感信号的多分辨率框架。
• 通过与长期共情目标对齐的交互式对抗训练机制，提升回复生成质量。
• 构建更人性化对话系统，能够生成在语境和情感上均恰当的回复。

提出的方法

• EmpDG 采用多分辨率共情生成器，联合编码粗粒度的对话级情感与细粒度的标记级情感词。
• 模型使用交叉注意力机制，将回复生成器与对话上下文中的多分辨率情感线索对齐。
• 引入一种交互式对抗学习框架，包含两个判别器：一个基于对话历史评估回复的共情程度，另一个将用户反馈作为额外上下文。
• 两个判别器通过对抗方式训练，以优化生成器，使其生成更具情感感知能力的回复。
• 用户反馈被显式建模为训练信号的一部分，以引导生成器生成能引发恰当情感反应的回复。
• 该框架整合语义与情感反馈，以反馈感知的方式优化回复生成。

实验结果

研究问题

• RQ1 同时建模粗粒度与细粒度情感信号是否能提升生成回复的情感细微差别？
• RQ2 将用户反馈整合到对抗训练过程中，对生成回复的共情与连贯性有何影响？
• RQ3 与单粒度情感建模方法相比，多分辨率对抗性框架在共情对话生成中的性能提升程度如何？
• RQ4 一种利用用户反馈的交互式判别机制，是否能生成更具情感感知力与语境恰当性的回复？
• RQ5 所提出方法在真实共情对话场景中，对多样化情感状态与对话语境的泛化能力如何？

主要发现

• EmpDG 在 EmpatheticDialogues 基准数据集上的内容质量与共情质量方面，显著优于最先进基线模型。
• 通过关注细粒度情感词（如 'sorry'、'hope' 和 'better'），模型生成了更具信息量与语境相关性的回复。
• 在案例研究中，EmpDG 生成了更具共情力的回复，例如：'I am sorry to hear that. I hope he gets better.'，而基线模型则生成了通用或情感错配的回复。
• 交互式对抗性框架有效利用用户反馈，提升了生成回复的情感感知能力，如注意力可视化与回复质量对比所示。
• EmpDG 在生成情感恰当回复方面表现更优，尤其在负面情感语境下，基线模型往往无法表达共情。
• 消融实验确认，多分辨率情感建模与反馈感知训练对提升共情与回复质量均至关重要。