[论文解读] CAiRE: An Empathetic Neural Chatbot

Zhaojiang Lin, Peng Xu+5 more|arXiv (Cornell University)|Jul 28, 2019

Topic Modeling参考文献 25被引用 25

一句话总结

CAiRE 是一个端到端的情感化神经对话机器人，通过三种多任务目标对大规模预训练语言模型进行微调：响应语言建模、响应预测和对话情感检测。它在 Empathetic Dialogues 数据集上实现了最先进性能，优于先前模型，在响应困惑度、BLEU 分数和情感分类准确率方面表现更优。

ABSTRACT

In this paper, we present an end-to-end empathetic conversation agent CAiRE. Our system adapts TransferTransfo (Wolf et al., 2019) learning approach that fine-tunes a large-scale pre-trained language model with multi-task objectives: response language modeling, response prediction and dialogue emotion detection. We evaluate our model on the recently proposed empathetic-dialogues dataset (Rashkin et al., 2019), the experiment results show that CAiRE achieves state-of-the-art performance on dialogue emotion detection and empathetic response generation.

研究动机与目标

• 开发一个端到端的情感化对话机器人，能够理解并响应用户情绪，实现自然对话。
• 通过大规模预训练和多任务微调，解决情感对话系统中数据稀疏性和模型容量的局限性。
• 通过联合优化流畅性、相关性和情感适当性，提升响应生成质量。
• 通过用户反馈机制实现主动学习，持续改进模型对不当或不适当响应的识别与修正。

提出的方法

• 在 BooksCorpus 数据集上微调生成式预训练变换器（GPT）的大规模预训练语言模型。
• 提出一种包含三个目标的多任务学习框架：响应语言建模、响应预测和对话情感检测。
• 使用损失的加权和：$\mathcal{L} = \alpha\mathcal{L}_{L} + \mathcal{L}_{S} + \mathcal{L}_{E}$，整合响应生成与情感分类任务。
• 在微调前，利用 17 亿条 Reddit 对话进行预训练，以增强闲聊能力。
• 采用基于 Web 的界面支持主动学习，允许用户报告不当响应并提供改进的回复建议。
• 对用户修订的响应应用模仿学习，以减轻不当行为并随时间提升模型的伦理对齐性。

实验结果

研究问题

• RQ1 单一端到端模型能否同时优化情感化响应生成与对话情感检测？
• RQ2 在情感检测任务中引入多任务学习，如何提升情感对话中响应的质量与连贯性？
• RQ3 在大规模对话数据上进行预训练，能在多大程度上提升在较小规模、专业化的情感对话数据集上的性能？
• RQ4 用户反馈与主动学习能否有效减少神经对话机器人中的不当或不适当响应？
• RQ5 在生成过程中整合情感检测，是否能产生更具情感适当性与情境相关性的响应？

主要发现

• CAiRE 在 Empathetic Dialogues 数据集上的响应困惑度达到 13.32，显著优于次佳模型（19.05）。
• 该模型的平均 BLEU 分数为 7.03，超过所有基线模型，包括 BLEU 分数次高的 ENSEM-DM（6.83）。
• CAiRE 的情感分类准确率达到 0.516，相较于先前方法展现出更强的情感检测能力。
• 系统在 8 块 GPU 上支持超过 50 名并发用户，请求间隔为 2 秒，表明具备高可扩展性与高效的 GPU 利用率。
• 基于用户反馈的主动学习成功减少了不当响应，模仿学习使模型的伦理对齐性随时间持续改善。
• 将情感检测作为多任务目标整合后，自动评估指标与用户交互结果均验证了生成响应更具同理心且更符合语境。