[论文解读] Tweets Sentiment Analysis via Word Embeddings and Machine Learning Techniques

Aditya Sharma, Alex Daniels|arXiv (Cornell University)|Jan 1, 2020

Sentiment Analysis and Opinion Mining参考文献 17被引用 6

一句话总结

本文提出了一种基于 word2vec 的上下文特征表示和随机森林分类的实时 2019 年选举 Twitter 数据情感分析框架。该方法通过分布式词嵌入捕捉文本中的语义关系，显著提升了传统方法（如 BOW 和 TF-IDF）的准确率。

ABSTRACT

Sentiment analysis of social media data consists of attitudes, assessments, and emotions which can be considered a way human think. Understanding and classifying the large collection of documents into positive and negative aspects are a very difficult task. Social networks such as Twitter, Facebook, and Instagram provide a platform in order to gather information about peoples sentiments and opinions. Considering the fact that people spend hours daily on social media and share their opinion on various different topics helps us analyze sentiments better. More and more companies are using social media tools to provide various services and interact with customers. Sentiment Analysis (SA) classifies the polarity of given tweets to positive and negative tweets in order to understand the sentiments of the public. This paper aims to perform sentiment analysis of real-time 2019 election twitter data using the feature selection model word2vec and the machine learning algorithm random forest for sentiment classification. Word2vec with Random Forest improves the accuracy of sentiment analysis significantly compared to traditional methods such as BOW and TF-IDF. Word2vec improves the quality of features by considering contextual semantics of words in a text hence improving the accuracy of machine learning and sentiment analysis.

研究动机与目标

• 为解决在大规模、实时社交媒体数据（特别是 2019 年选举期间）中分类公众情感的挑战。
• 通过用 word2vec 嵌入替代传统的特征提取方法（如 BOW 和 TF-IDF），提升情感分类准确率。
• 评估将 word2vec 与随机森林算法结合用于推文情感极性检测的有效性。
• 证明 word2vec 提供的上下文语义特征可提升情感分析任务中的机器学习性能。

提出的方法

• 使用 word2vec 生成能够捕捉训练语料库中上下文语义的密集分布式词向量表示。
• 在大量 2019 年选举相关推文集合上训练 word2vec 模型，以学习有意义的词嵌入。
• 将 word2vec 提取的特征向量用作随机森林分类器的情感极性预测输入。
• 应用随机森林算法，基于学习到的词嵌入将推文分类为正面或负面情感。
• 将特征选择模型与 word2vec 集成，以提升输入特征质量并降低维度。
• 将 word2vec + 随机森林流水线的性能与基线方法（如 BOW 和 TF-IDF）进行比较。

实验结果

研究问题

• RQ1 与传统的 BOW 和 TF-IDF 方法相比，基于 word2vec 的特征表示在情感分类准确率方面有何提升？
• RQ2 将 word2vec 与随机森林结合，对 Twitter 数据情感分析性能的提升程度如何？
• RQ3 上下文词嵌入能否有效捕捉短篇、非正式社交媒体文本中的情感相关语义？
• RQ4 特征选择对 word2vec 嵌入质量及后续分类准确率有何影响？

主要发现

• 所提出的 word2vec 与随机森林结合的方法在情感分类准确率上显著高于传统的 BOW 和 TF-IDF 方法。
• word2vec 通过编码上下文语义提升了特征质量，增强了机器学习模型输入的判别能力。
• word2vec 与随机森林的集成提升了情感分类的泛化能力和鲁棒性。
• 使用上下文词嵌入减少了对词袋假设的依赖，实现了更细致的情感检测。