[论文解读] Sentiment Classification of Food Reviews

Hua Feng, Ruixi Lin|arXiv (Cornell University)|Sep 7, 2016

Sentiment Analysis and Opinion Mining参考文献 2被引用 5

一句话总结

本文提出了一种基于循环神经网络（RNNs）和门控循环单元（GRUs）的食品评论情感分类模型，并通过仔细调参以处理类别不平衡数据。作者通过应用数据重采样和类别加权技术，在基线模型基础上实现了更高的准确率，证明了深度学习在1–5评分尺度上的细粒度情感预测中的有效性。

ABSTRACT

Sentiment analysis of reviews is a popular task in natural language processing. In this work, the goal is to predict the score of food reviews on a scale of 1 to 5 with two recurrent neural networks that are carefully tuned. As for baseline, we train a simple RNN for classification. Then we extend the baseline to GRU. In addition, we present two different methods to deal with highly skewed data, which is a common problem for reviews. Models are evaluated using accuracies.

研究动机与目标

• 开发一种用于预测1–5评分尺度食品评论情感的深度学习模型。
• 解决现实世界评论数据集中常见的高度偏斜数据分布问题。
• 比较简单RNN与GRUs在情感分类任务中的性能表现。
• 评估数据级技术（重采样与类别加权）在提升类别不平衡数据上模型鲁棒性方面的有效性。
• 为未来食品评论情感分析研究提供基线模型及扩展模型。

提出的方法

• 作者实现了一个简单RNN，并将其扩展为基于GRU的架构，用于对评论文本进行序列建模。
• 他们应用数据重采样技术，以平衡1–5评分尺度上各类别的分布。
• 在训练过程中使用类别加权，以提高对低频评分类别的重视程度。
• 使用准确率作为主要指标，在食品评论数据集上训练并评估模型。
• 对超参数进行仔细调优，以在验证集上优化性能。
• 在测试数据上评估最终模型，以报告其泛化性能。

实验结果

研究问题

• RQ1 基于GRU的模型是否能在1–5评分尺度上的情感分类任务中超越简单RNN？
• RQ2 重采样与类别加权在缓解食品评论数据中因类别不平衡导致的性能下降方面有多有效？
• RQ3 模型架构与训练技术对细粒度情感分类准确率有何影响？
• RQ4 所提出的方法与简单RNN基线相比，在预测性能上表现如何？
• RQ5 深度学习模型在预测食品评论离散情感评分方面，能达到多高的准确率？

主要发现

• 基于GRU的模型在分类准确率方面优于简单RNN基线模型。
• 应用数据重采样与类别加权显著提升了模型在少数类评分类别上的性能。
• 经过调优的GRU模型相比基线RNN实现了更高的整体准确率，证明了架构改进的优势。
• 结果证实，处理类别不平衡对于在真实世界评论数据中实现可靠的情感分类性能至关重要。
• 本研究为未来使用序列模型进行食品评论情感分析研究建立了强有力的基线。
• 通过仔细的超参数调优与数据级预处理，最终模型在类别不平衡数据上表现出良好的鲁棒性与泛化能力。