[论文解读] MojiTalk: Generating Emotional Responses at Scale

Xianda Zhou, William Yang Wang|arXiv (Cornell University)|Nov 11, 2017

Topic Modeling参考文献 25被引用 16

一句话总结

本文提出 MojiTalk，一种通过利用 Twitter 数据中自然出现的 emoji 作为隐式情绪标签，实现大规模生成情感表达丰富对话回复的方法。该方法基于在 500,000 条 emoji 标注的 Twitter 对话上训练的强化条件变分自编码器（CVAE），生成高质量、抽象化且与指定情绪一致的回复，在人类评估中表现优异，27% 的评判者无法区分机器生成与人工撰写的内容。

ABSTRACT

Generating emotional language is a key step towards building empathetic natural language processing agents. However, a major challenge for this line of research is the lack of large-scale labeled training data, and previous studies are limited to only small sets of human annotated sentiment labels. Additionally, explicitly controlling the emotion and sentiment of generated text is also difficult. In this paper, we take a more radical approach: we exploit the idea of leveraging Twitter data that are naturally labeled with emojis. More specifically, we collect a large corpus of Twitter conversations that include emojis in the response, and assume the emojis convey the underlying emotions of the sentence. We then introduce a reinforced conditional variational encoder approach to train a deep generative model on these conversations, which allows us to use emojis to control the emotion of the generated text. Experimentally, we show in our quantitative and qualitative analyses that the proposed models can successfully generate high-quality abstractive conversation responses in accordance with designated emotions.

研究动机与目标

• 解决用于训练神经对话代理的大规模、人工标注的情感回复数据集缺乏的问题。
• 通过使用 emoji 作为自然情绪标签，实现在无需昂贵人工标注的情况下，可控生成情感丰富的回复。
• 开发一种神经生成模型，能够基于任意 emoji 目标生成多样化、抽象化且情感连贯的回复。
• 通过自动分类和在 Amazon Mechanical Turk 上的人工评估，对生成回复的质量和情绪准确性进行评估。

提出的方法

• 收集包含 500,000 组 Twitter 对话对的大规模数据集，其中回复通过细粒度 emoji 自然标注，将 emoji 视为潜在情绪的代理指标。
• 以具备序列到序列注意力机制的 CVAE 作为基础模型，通过目标 emoji 条件化生成过程进行训练。
• 采用混合训练目标，结合变分下界（VLB）与策略梯度（强化学习），以提升情绪表达和回复质量。
• 使用预训练的句子到 emoji 分类器（DeepMoji）自动评估生成回复的情绪准确性。
• 通过 Amazon Mechanical Turk 进行人工作评估，将模型输出与基线 seq2seq 模型在相关性和情绪一致性方面进行对比。
• 采用简化的图灵测试评估生成回复的人类相似度，测量人类将机器生成内容误判为人工撰写内容的频率。

实验结果

研究问题

• RQ1 社交媒体中自然出现的 emoji 是否可有效用作大规模情感回复生成的弱监督信号？
• RQ2 基于 emoji 标签条件化的条件变分自编码器能否在大规模场景下生成多样化、抽象化且情感连贯的回复？
• RQ3 与强基线 seq2seq 模型相比，所提模型在回复相关性和情绪准确性方面的表现如何？
• RQ4 在人工评估场景中，生成回复在多大程度上会被误认为是人工撰写的内容？

主要发现

• 所提出的 MojiTalk 模型在 500,000 条 emoji 标注的 Twitter 对话上进行训练，成功生成高质量、抽象化且情绪受控的回复。
• 人工评估显示，27% 的评判者无法区分机器生成与人工撰写的内容，表明生成回复具有高度的人类相似度。
• 该模型在情绪准确性方面表现优异，句子到 emoji 分类器能够正确识别生成回复中的目标情绪。
• 经人工评判确认，强化 CVAE 模型在相关性和情绪一致性方面均优于基线 seq2seq 模型。
• 该模型在回复生成方面展现出多样性，避免了基线 seq2seq 模型中常见的重复模式。
• 尽管强化 CVAE 在某些情况下存在生成长度过长的问题，但其流畅性得以保持，且对超参数调优具有鲁棒性。