[论文解读] Emotion Detection with Transformers: A Comparative Study

Mahdi Rezapour|arXiv (Cornell University)|Mar 18, 2024

Emotion and Mood Recognition被引用 6

一句话总结

本文比较了多种用于情感分类的预训练变换器模型，并分析微调、层可训练性和预处理对性能的影响，结果发现去除标点符号和停用词可能会降低结果。

ABSTRACT

In this study, we explore the application of transformer-based models for emotion classification on text data. We train and evaluate several pre-trained transformer models, on the Emotion dataset using different variants of transformers. The paper also analyzes some factors that in-fluence the performance of the model, such as the fine-tuning of the transformer layer, the trainability of the layer, and the preprocessing of the text data. Our analysis reveals that commonly applied techniques like removing punctuation and stop words can hinder model performance. This might be because transformers strength lies in understanding contextual relationships within text. Elements like punctuation and stop words can still convey sentiment or emphasis and removing them might disrupt this context.

研究动机与目标

• 在标准文本情感数据集上评估多种预训练的变换器模型用于情感分类。
• 分析微调策略以及哪些变换器层是可训练的对模型性能的影响。
• 研究预处理步骤对使用变换器的情感检测的影响。

提出的方法

• 在 Emotion 数据集上训练并评估若干预训练的变换器模型用于情感分类。
• 实验不同的变换器变体和微调配置。
• 评估在微调过程中哪些层是可训练的对性能的影响。
• 分析诸如标点处理与停用词处理等预处理选择及其对性能的影响。

实验结果

研究问题

• RQ1 哪些预训练的变换器模型在 Emotion 数据集上能提供最佳情感分类性能？
• RQ2 微调和层可训练性选择如何影响情感检测的准确性？
• RQ3 常见预处理步骤（如去除标点或停用词）对基于变换器的情感分类有何影响？

主要发现

• 变换器在捕捉上下文关系方面的能力意味着过于激进的预处理（去除标点或停用词）可能降低性能。
• 微调决策以及哪些层被更新对结果有显著影响。
• 预处理选项会调节模型性能，质疑了自然语言处理流水线中常见的预处理习惯。