[论文解读] An Affect-Rich Neural Conversational Model with Biased Attention and Weighted Cross-Entropy Loss

Peixiang Zhong, Di Wang+1 more|arXiv (Cornell University)|Nov 17, 2018

Mental Health via Writing被引用 10

一句话总结

本文提出Affect-Rich Seq2Seq（AR-S2S），一种端到端神经对话模型，可生成在效价（valence）、唤醒度（arousal）和支配感（dominance）三个情感维度上丰富的情感响应。该模型整合了VAD词嵌入、一种用于增强否定词和强调词影响的偏置注意力机制，以及一种加权交叉熵损失函数，以提升情感丰富词汇的生成——在情感质量与内容方面，其生成结果在人类偏好测试中优于当前最先进基线模型。

ABSTRACT

Affect conveys important implicit information in human communication. Having the capability to correctly express affect during human-machine conversations is one of the major milestones in artificial intelligence. In recent years, extensive research on open-domain neural conversational models has been conducted. However, embedding affect into such models is still under explored. In this paper, we propose an end-to-end affect-rich open-domain neural conversational model that produces responses not only appropriate in syntax and semantics, but also with rich affect. Our model extends the Seq2Seq model and adopts VAD (Valence, Arousal and Dominance) affective notations to embed each word with affects. In addition, our model considers the effect of negators and intensifiers via a novel affective attention mechanism, which biases attention towards affect-rich words in input sentences. Lastly, we train our model with an affect-incorporated objective function to encourage the generation of affect-rich words in the output responses. Evaluations based on both perplexity and human evaluations show that our model outperforms the state-of-the-art baseline model of comparable size in producing natural and affect-rich responses.

研究动机与目标

• 解决开放域神经对话模型中情感丰富响应生成的不足。
• 建模否定词与强调词对输入句子情感意义的影响。
• 在鼓励生成情感表达性词汇的同时，保持语言的流畅性。
• 设计一种训练目标，以平衡情感丰富性与语法正确性。
• 在自动指标与人类偏好研究中评估模型性能。

提出的方法

• 该模型在Seq2Seq架构基础上引入基于VAD的词嵌入层，从外部语料库为每个词分配效价、唤醒度和支配感的三元组得分。
• 提出一种新颖的偏置注意力机制，动态调整注意力权重，优先关注情感丰富的词汇，尤其是受否定词和强调词影响的词汇。
• 注意力机制结合了术语重要性函数（用户级、全局、局部），根据上下文对情感词汇的影响进行加权。
• 引入加权交叉熵损失函数，在训练过程中为情感丰富词汇分配更高的损失权重，以鼓励其生成。
• 采用标准交叉熵与融合情感信息的加权交叉熵目标相结合的方式，进行端到端训练。
• 通过敏感性分析对超参数（如情感嵌入强度λ、注意力偏置γ、损失加权δ）进行调优。

实验结果

研究问题

• RQ1 神经对话模型能否生成既语言流畅又情感丰富的响应？
• RQ2 如何有效建模否定词与强调词，以保持情感表达的极性和强度？
• RQ3 与基线模型相比，将情感知识融入嵌入与注意力机制是否能提升响应质量？
• RQ4 加权交叉熵损失是否能在不降低流畅性的前提下增强情感丰富词汇的生成？
• RQ5 控制情感强度、注意力偏置与损失加权的超参数如何影响模型性能？

主要发现

• 在人类偏好测试中，AR-S2S在内容质量方面相比SOTA基线模型实现了25.0%的相对提升，在情感质量方面实现了88.5%的相对提升。
• 人工评估显示，AR-S2S在内容与情感质量方面均显著优于基线模型，其Kappa评分分别为0.619与0.704。
• 尽管引入了情感目标，模型的困惑度保持不变或略有改善，表明流畅性未受影响。
• 敏感性分析表明，提高情感损失权重（δ）可一致增加生成响应中不同情感丰富词汇的数量。
• 情感嵌入强度（λ）与注意力偏置（γ）在中间值时，生成的不同情感丰富词汇数量达到峰值，表明情感强度与解码稳定性之间存在最优平衡。
• 该模型在广泛的超参数取值范围内表现出鲁棒性，尤其在注意力的局部重要性加权设置下表现突出。