[论文解读] Affect-Driven Dialog Generation

Pierre Colombo, Wojciech Witoń+3 more|arXiv (Cornell University)|Apr 4, 2019

Topic Modeling参考文献 24被引用 7

一句话总结

本文提出 EMOTICONS，一种使用连续情感表征进行情感控制的神经对话系统。通过整合情感嵌入、情感正则化项以及人机协同重排序流程，该模型在基线模型基础上将响应多样性提升最高达52%，BLEU分数提升7.7%，同时保持语法正确性，并在情感适当性方面获得用户的强烈偏好。

ABSTRACT

The majority of current systems for end-to-end dialog generation focus on response quality without an explicit control over the affective content of the responses. In this paper, we present an affect-driven dialog system, which generates emotional responses in a controlled manner using a continuous representation of emotions. The system achieves this by modeling emotions at a word and sequence level using: (1) a vector representation of the desired emotion, (2) an affect regularizer, which penalizes neutral words, and (3) an affect sampling method, which forces the neural network to generate diverse words that are emotionally relevant. During inference, we use a reranking procedure that aims to extract the most emotionally relevant responses using a human-in-the-loop optimization process. We study the performance of our system in terms of both quantitative (BLEU score and response diversity), and qualitative (emotional appropriateness) measures.

研究动机与目标

• 解决端到端对话系统中缺乏显式情感控制的问题，此类系统常生成中性或不相关的回复。
• 通过连续情感表征（情感-唤醒-主导性）而非离散情感标签，实现情感丰富回复的可控生成。
• 在不牺牲语法正确性或连贯性的情况下，提升响应多样性与情感适当性。
• 通过定量指标与定性用户研究（评估情感表达力与用户偏好）来评估系统性能。

提出的方法

• 系统采用基于门控循环单元（GRUs）和注意力机制的序列到序列架构进行响应生成。
• 通过将目标情感的连续向量表征（VAD：情感、唤醒、主导性）注入解码器，实现情感控制。
• 引入情感正则化项，在训练过程中惩罚中性词汇，以鼓励生成回复中体现情感表达。
• 提出一种新颖的情感采样方法，通过鼓励网络在多个解码路径中生成情感相关词汇，提升多样性。
• 推理阶段采用重排序流程，基于情感分类器反馈的人机协同优化过程，选择情感最相关的回复。
• 通过交叉熵损失与情感正则化相结合的方式对模型进行微调，以平衡流畅性与情感相关性。

实验结果

研究问题

• RQ1 神经对话系统能否利用连续情感表征，以可控方式生成情感适当的回复？
• RQ2 情感正则化与采样方法的引入，如何提升响应的多样性与情感表达力？
• RQ3 人机协同重排序流程在多大程度上增强了生成回复的情感相关性？
• RQ4 与基线模型相比，用户如何评价 EMOTICONS 生成回复的语法正确性与情感适当性？

主要发现

• 与基线 seq2seq 模型相比，EMOTICONS 的 BLEU 分数最高提升 7.7%，表明响应流畅性与相关性更优。
• 与基线相比，响应多样性最高提升 52%，证明情感采样与正则化技术的有效性。
• 在用户偏好研究中，EMOTICONS 在 96 次比较中有 37 次被选为首选回复，显著优于基线模型。
• 所有情感类型下语法正确性均得到保持，母语者评分显示 79%–84% 的回复语法正确。
• 用户研究证实，EMOTICONS 能够成功生成情感适当的回复，其平均 VAD 向量与目标情感高度匹配，尤其在恐惧、愤怒与喜悦情感上表现突出。
• 系统在表达惊讶情绪方面表现较差，主要由于用户易将惊讶与喜悦混淆，凸显情感感知与标注的挑战。