[论文解读] Think Twice: A Human-like Two-stage Conversational Agent for Emotional Response Generation

Yushan Qian, Bo Wang+6 more|arXiv (Cornell University)|Jan 12, 2023

Topic Modeling被引用 6

一句话总结

本文提出了一种两阶段对话代理，首先在无情感标注的情况下生成语义连贯的原型回复，然后通过基于共情的情感检测引导的可控情感精炼模块对原型进行优化。该方法在情感回复生成任务中达到最先进性能，同时减少了对大规模情感标注数据集的依赖，在自动评估与人工评估中均优于现有模型。

ABSTRACT

Towards human-like dialogue systems, current emotional dialogue approaches jointly model emotion and semantics with a unified neural network. This strategy tends to generate safe responses due to the mutual restriction between emotion and semantics, and requires rare emotion-annotated large-scale dialogue corpus. Inspired by the "think twice" behavior in human dialogue, we propose a two-stage conversational agent for the generation of emotional dialogue. Firstly, a dialogue model trained without the emotion-annotated dialogue corpus generates a prototype response that meets the contextual semantics. Secondly, the first-stage prototype is modified by a controllable emotion refiner with the empathy hypothesis. Experimental results on the DailyDialog and EmpatheticDialogues datasets demonstrate that the proposed conversational outperforms the comparison models in emotion generation and maintains the semantic performance in automatic and human evaluations.

研究动机与目标

• 解决端到端情感对话模型因语义退化和对稀有情感标注语料过度依赖而产生的局限性。
• 通过将语义生成与情感优化解耦，模拟人类对话行为，受‘三思而后行’认知策略的启发。
• 通过可控情感精炼模块应用‘重写’与‘添加’策略，提升情感回复质量。
• 通过在非标注对话数据上训练第一阶段模型，降低对大规模情感标注数据集的依赖。
• 通过基于共情假设将最终情感与上下文情感状态对齐，提升生成回复的连贯性与共情能力。

提出的方法

• 采用两阶段架构：第一阶段使用微调过的预训练语言模型在非情感标注对话数据上生成原型回复。
• 对话情感检测器从历史话语中识别上下文情感状态，作为精炼的目标情感。
• 第二阶段包含两个模块：'重写'模块将原型中的情感词汇修改为匹配目标情感，'添加'模块插入情感表达性语句。
• 选择器根据GLEU分数在'重写'与'添加'模块的输出之间选择最终回复，确保流畅性与相关性。
• 情感精炼模块采用可控生成技术进行训练，可在不改变核心语义的前提下动态调整情感基调。
• 共情假设贯穿整个流程：最终回复的情感与检测到的上下文情感保持一致，以确保共情一致性。

实验结果

研究问题

• RQ1 与端到端模型相比，将语义生成与情感优化解耦的两阶段方法是否能提升情感回复的质量？
• RQ2 基于‘重写’与‘添加’策略的可控情感精炼模块在提升情感表达力方面效果如何？
• RQ3 所提模型在多大程度上可减少对大规模情感标注对话语料的依赖？
• RQ4 基于共情的情感检测是否能改善回复情感与上下文情感的一致性？
• RQ5 该模型能否在生成情感恰当回复的同时保持高度的语义连贯性？

主要发现

• 所提两阶段对话代理在DailyDialog与EmpatheticDialogues数据集上的自动评估与人工评估中均优于现有模型。
• 该模型在情感生成方面达到最先进性能，同时保持了较强的语义相关性，经人工评估指标验证。
• 非标注预训练阶段的使用显著降低了对大规模情感标注数据集的依赖。
• 基于GLEU的选择器能有效在重写与添加策略间进行选择，提升回复质量而不损害流畅性。
• 案例研究显示，该模型能生成情感丰富且语境连贯的回复，例如通过添加情感表达将中性陈述转化为共情性回应。
• 对话情感检测器优于将上下文拼接或对单一句子进行分类的方法，证明其在动态情感识别中的有效性。