[论文解读] Emotion-aware Chat Machine: Automatic Emotional Response Generation for Human-like Emotional Interaction

Wei Wei, Jiayi Liu+5 more|arXiv (Cornell University)|Jun 6, 2021

Topic Modeling参考文献 12被引用 17

一句话总结

本文提出了一种端到端的情绪感知聊天机器（EACM），通过联合编码帖子的语义和情感内容，生成在语境上连贯且情感上恰当的回复。通过使用带有自注意力机制的统一融合-预测网络，EACM 在语义得分上优于最先进方法 16.9%，在情感得分上提升 1.72%，在回复质量上提升 25.81%，显著减少了情感不恰当的回复。

ABSTRACT

The consistency of a response to a given post at semantic-level and emotional-level is essential for a dialogue system to deliver human-like interactions. However, this challenge is not well addressed in the literature, since most of the approaches neglect the emotional information conveyed by a post while generating responses. This article addresses this problem by proposing a unifed end-to-end neural architecture, which is capable of simultaneously encoding the semantics and the emotions in a post for generating more intelligent responses with appropriately expressed emotions. Extensive experiments on real-world data demonstrate that the proposed method outperforms the state-of-the-art methods in terms of both content coherence and emotion appropriateness.

研究动机与目标

• 解决对话系统在响应生成中未能同时建模语义一致性和情感一致性的差距。
• 克服现有情绪感知模型依赖预定义情绪标签或表情符号的局限性，这些方法会破坏回复的流畅性与情感一致性。
• 开发一种统一的、端到端的神经架构，基于输入帖子的情感内容自动推断最优响应情感。
• 通过确保情感恰当性与语义连贯性，提升类人的情感交互质量。

提出的方法

• 提出一种统一的端到端神经架构 EACM，将情绪选择与响应生成整合到单一框架中。
• 采用带有自注意力机制的融合-预测网络，联合编码输入帖子的语义与情感表征。
• 利用自注意力机制捕捉长距离依赖关系，提升语义与情感表征的学习效果。
• 通过学习输入内容中的情绪感知表征，实现软性情绪注入，避免从预标注情绪类别进行硬映射。
• 采用序列到序列学习与注意力机制进行端到端训练，实现语义与情感一致性的联合优化。
• 采用统一损失函数，结合交叉熵损失用于响应生成与情绪分类，使情感意图与响应内容保持对齐。

实验结果

研究问题

• RQ1 统一的端到端模型能否联合学习语义与情感表征，从而提升开放域对话中的响应质量？
• RQ2 通过从输入内容中学习情绪（软性情绪注入）与使用预标注情绪类别进行硬性情绪注入相比，效果如何？
• RQ3 模型在不依赖人工标注情绪标签的情况下，能在多大程度上自动推断出最优响应情感？
• RQ4 与分别建模语义与情感的方法相比，联合建模语义与情感是否能生成更连贯且情感更恰当的回复？
• RQ5 所提出的 EACM 模型在自动评估与人工评估指标上相较于最先进基线模型表现如何？

主要发现

• 与基线模型 ECM 相比，EACM 在语义得分上提升 16.9%，表明其生成的回复具有更强的语义连贯性。
• 与 ECM 相比，EACM 在情感得分上提升 1.72%，在回复质量上提升 25.81%，表明其情感恰当性与整体回复质量更强。
• 在人工评估中，语义与情感均正确的回复（1-1）比例提升至 39%，而情感错误但语义正确的类别（0-1）下降至 2.5%，表明情感不一致性显著减少。
• 案例研究证实，即使面对复杂或模糊的情感输入（如“愤怒，其他”），EACM 也能生成情感恰当的回复，而 ECM 则会失败。
• EACM 有效降低了情感冲突回复的频率（例如，对悲伤帖子生成快乐回复），在情感对齐方面优于 Seq2seq 与 Seq2seq-emb。
• 该模型能有效处理真实对话中常见的“其他”情绪类别，通过学习细微的情感模式，而无需依赖显式的情绪标签。