[论文解读] Toward Dimensional Emotion Detection from Categorical Emotion Annotations.

Sung‐Joon Park, Jiseon Kim+3 more|arXiv (Cornell University)|Nov 6, 2019

Sentiment Analysis and Opinion Mining参考文献 26被引用 8

一句话总结

本文提出了一种统一框架，通过在VAD空间中最小化预测值与排序后分类情绪分布之间的地球移动距离（EMD），利用粗粒度的分类情绪标注来预测细粒度的维度情绪（愉悦-唤醒-主导，VAD）。该模型在BERT-Large上进行微调，使用SemEval（11种类别）数据集进行训练，并在EmoBank上进行评估，实现了分类情绪识别的最先进性能，且与真实VAD分数具有强相关性，同时还能泛化到未见过的情感词汇。

ABSTRACT

We propose a framework which makes a model predict fine-grained dimensional emotions (valence-arousal-dominance, VAD) trained on corpus annotated with coarse-grained categorical emotions. We train a model by minimizing EMD distances between predicted VAD score distribution and extit{sorted} categorical emotion distributions in terms of VAD, as a proxy of target VAD score distributions. With our model, we can simultaneously classify a given sentence to categorical emotions as well as predict VAD scores. We use pre-trained BERT-Large and fine-tune on SemEval dataset (11 categorical emotions) and evaluate on EmoBank (VAD dimensional emotions), in order to show our approach reaches comparable performance to that of the state-of-the-art classifiers in categorical emotion classification task and significant positive correlations with ground truth VAD scores. Also, if one continues training our model with supervision of VAD labels, it outperforms state-of-the-art VAD regression models. We further present examples showing our model can annotate emotional words suitable for a given text even those words are not seen as categorical labels during training.

研究动机与目标

• 弥合粗粒度分类情绪标注与细粒度维度情绪（VAD）预测之间的差距。
• 开发一个统一模型，实现无需在训练期间使用VAD标注数据的分类情绪识别与维度情绪回归。
• 通过利用学习到的VAD表征，实现对训练期间未见的情感词汇的零样本泛化。
• 证明基于EMD的蒸馏方法从排序后的分类分布近似目标VAD分布是有效的。

提出的方法

• 该模型使用BERT-Large作为基础编码器，并在包含SemEval中11种子分类情绪的语料库上进行微调。
• 通过最小化预测VAD分布与排序后分类情绪VAD分布之间的地球移动距离（EMD），预测VAD分数。
• 通过预先学习的VAD嵌入将排序后的分类情绪分布映射到VAD空间，形成真实VAD分布的代理。
• 通过EMD损失，联合优化分类情绪识别与VAD预测。
• 在初始预训练后，该模型可进一步使用VAD标注数据进行微调，从而超越现有的最先进回归模型。
• 该框架支持对训练中未出现的分类标签中的情感词汇进行零样本推理。

实验结果

研究问题

• RQ1 仅使用分类情绪标签进行训练的模型，能否在无直接VAD监督的情况下准确预测维度情绪分数（VAD）？
• RQ2 基于EMD的蒸馏方法从排序后的分类情绪分布近似真实VAD分布的效果如何？
• RQ3 该模型能否在未见的训练情感词汇上实现泛化，即使这些词汇没有显式的VAD标注？
• RQ4 与最先进模型相比，该方法在分类情绪识别与VAD回归任务中是否均表现出具有竞争力的性能？
• RQ5 在使用VAD标签持续微调后，是否能进一步提升回归性能，超越现有最先进模型？

主要发现

• 该模型在SemEval基准上实现了分类情绪识别的最先进性能，与现有最先进分类器相当或更优。
• 在EmoBank数据集上，该模型与真实VAD分数表现出显著的正相关性，表明其维度情绪预测具有可靠性。
• 该模型能泛化到训练中未出现的分类标签中的情感词汇，展示了在情感词汇标注中的零样本能力。
• 在进一步使用VAD标注数据微调后，该模型超越了现有的最先进VAD回归模型。
• 基于EMD的蒸馏方法从排序后的分类分布有效近似了目标VAD分布，从而在无直接VAD监督的情况下实现了高质量的VAD预测。