[论文解读] Transfer Learning for Low-Resource Sentiment Analysis

Razhan Hameed, Sina Ahmadi+1 more|arXiv (Cornell University)|Apr 10, 2023

Sentiment Analysis and Opinion Mining被引用 7

一句话总结

该论文收集并标注了中央库尔德语情感数据集，评估了经典机器学习与神经网络方法，结果显示基于转移学习的数据增强在低资源设置下可获得较高的F1和准确率。

ABSTRACT

Sentiment analysis is the process of identifying and extracting subjective information from text. Despite the advances to employ cross-lingual approaches in an automatic way, the implementation and evaluation of sentiment analysis systems require language-specific data to consider various sociocultural and linguistic peculiarities. In this paper, the collection and annotation of a dataset are described for sentiment analysis of Central Kurdish. We explore a few classical machine learning and neural network-based techniques for this task. Additionally, we employ an approach in transfer learning to leverage pretrained models for data augmentation. We demonstrate that data augmentation achieves a high F$_1$ score and accuracy despite the difficulty of the task.

研究动机与目标

• 在低资源语言中的情感分析动机以及中央库尔德语的社会语言学细微差别。
• 描述中央库尔德语情感分析的数据集收集与标注过程。
• 在所收集的数据集上评估经典机器学习和神经网络方法。
• 探索基于转移学习的数 据增强以在低资源场景中提升模型性能。

提出的方法

• 收集并标注一个中央库尔德语情感数据集。
• 将经典ML与基于神经网络的方法应用于该任务。
• 利用转移学习对数据进行增强以改进训练。
• 使用标准情感评估指标（F1分数与准确率）对模型进行评估。
• 分析在数据稀缺条件下数据增强对性能的影响。

实验结果

研究问题

• RQ1 转移学习驱动的数据增强能否在像中央库尔德语这样的低资源语言中改善情感分析性能？
• RQ2 经典机器学习方法与神经网络方法在中央库尔德语情感数据集上的表现有何差异？
• RQ3 数据增强对低资源情感分析的F1和准确率有何影响？
• RQ4 在中央库尔德语的社会语言学和语言学特性下，所提出的方法是否仍然有效？

主要发现

• 通过转移学习实现的数据增强在中央库尔德语情感分析中获得较高的F1分数和准确率。
• 在这一低资源任务中探索了经典ML与神经网络方法。
• 该数据集已被收集并标注，以支持在中央库尔德语中的可靠评估。
• 基于转移学习的增强在任务难度下仍体现出有效性。