[论文解读] Empathetic Dialogue Generation via Knowledge Enhancing and Emotion Dependency Modeling.

Qintong Li, Piji Li+2 more|arXiv (Cornell University)|Sep 21, 2020

Topic Modeling参考文献 53被引用 11

一句话总结

该论文提出 Know-EDG，一种知识增强型框架，用于共情对话生成。该框架将与情绪相关的知识整合到上下文图中，并利用情绪聚焦注意力的图感知 Transformer 来建模情绪依赖关系。在自动评估和人工评估指标上，该方法优于当前最先进方法。

ABSTRACT

Enabling the machines with empathetic abilities to provide context-consistent responses is crucial on both semantic and emotional levels. The task of empathetic dialogue generation is proposed to address this problem. However, two challenges still exist in this task: perceiving nuanced emotions implied in the dialogue context and modelling emotional dependencies. Lacking useful external knowledge makes it challenging to perceive implicit fine-grained emotions. Missing the emotional interactions among interlocutors also restricts the performance of empathetic dialogue generation. To address above challenges, we propose a knowledge-enhanced framework, named Know-EDG. We first enrich dialogue context by bunches of emotion-related concepts and construct a knowledge-enhanced context graph. Then we introduce a graph-aware Transformer encoder to learn graph's semantic and emotional representations, which are the prerequisites of the emotion identifier to predicate the target emotion signal. Finally, we propose an emotion-focused attention mechanism to exploit the emotional dependencies between dialogue context and target empathetic response. Conducted on a benchmark dataset, extensive experimental results show that our proposed framework outperforms state-of-the-art baselines in terms of automatic metrics and human evaluations.

研究动机与目标

• 为解决在对话上下文中感知细微且隐含情绪的挑战。
• 建模对话参与者之间的情绪依赖关系，以改善共情式响应生成。
• 通过外部情绪相关知识增强上下文表征，以提升情绪预测能力。
• 开发一个统一框架，联合学习语义、情绪和依赖感知的表征，用于共情响应生成。

提出的方法

• 通过从外部知识中引入与情绪相关的概念，丰富对话话语，构建知识增强的上下文图。
• 采用图感知 Transformer 编码器，从上下文图中学习联合的语义与情绪表征。
• 集成一个情绪识别模块，基于图学习的表征预测目标情绪信号。
• 设计一种情绪聚焦注意力机制，显式建模对话上下文与响应生成之间的情绪依赖关系。
• 使用基准数据集，通过自动评估与人工评估协议，端到端训练该框架。
• 利用外部知识，在存在隐含情绪线索时提升细粒度情绪感知能力。

实验结果

研究问题

• RQ1 外部知识能否提升对对话上下文中细粒度、隐含情绪的感知能力？
• RQ2 基于图的表征模型在多大程度上能捕捉对话轮次间的情绪依赖关系？
• RQ3 情绪聚焦注意力机制在多大程度上增强了生成响应的情绪一致性？
• RQ4 整合知识与依赖建模是否能带来相对于现有共情对话生成方法的可测量性能提升？

主要发现

• 所提出的 Know-EDG 框架在自动指标上优于当前最先进基线方法。
• 人工评估结果确认，Know-EDG 生成的响应更具情绪一致性与共情性。
• 外部知识的整合显著提升了模型识别对话中细微情绪线索的能力。
• 情绪聚焦注意力机制有效捕捉了跨轮次的情绪依赖关系，增强了响应的相关性。
• 图感知 Transformer 编码器成功从知识增强的上下文图中学习到丰富的语义与情绪表征。
• 在基准数据集上的实证结果表明，该方法在自动与人工评估指标上均实现了持续的性能提升。