[論文レビュー] Tweets Sentiment Analysis via Word Embeddings and Machine Learning Techniques

Aditya Sharma, Alex Daniels|arXiv (Cornell University)|Jan 1, 2020

Sentiment Analysis and Opinion Mining参考文献 17被引用数 6

ひとこと要約

本稿では、2019年の選挙に関するリアルタイムのTwitterデータを対象に、文脈的特徴表現に word2vec を、分類にランダムフォレストを用いた感情分析フレームワークを提案する。従来の方法（BOW や TF-IDF）と比較して、分散単語埋め込みを用いることでテキスト内の意味的関係を捉えることで、著しく精度が向上している。

ABSTRACT

Sentiment analysis of social media data consists of attitudes, assessments, and emotions which can be considered a way human think. Understanding and classifying the large collection of documents into positive and negative aspects are a very difficult task. Social networks such as Twitter, Facebook, and Instagram provide a platform in order to gather information about peoples sentiments and opinions. Considering the fact that people spend hours daily on social media and share their opinion on various different topics helps us analyze sentiments better. More and more companies are using social media tools to provide various services and interact with customers. Sentiment Analysis (SA) classifies the polarity of given tweets to positive and negative tweets in order to understand the sentiments of the public. This paper aims to perform sentiment analysis of real-time 2019 election twitter data using the feature selection model word2vec and the machine learning algorithm random forest for sentiment classification. Word2vec with Random Forest improves the accuracy of sentiment analysis significantly compared to traditional methods such as BOW and TF-IDF. Word2vec improves the quality of features by considering contextual semantics of words in a text hence improving the accuracy of machine learning and sentiment analysis.

研究の動機と目的

• 大規模かつリアルタイムのソーシャルメディアデータ、特に2019年の選挙期間中の公共の感情を分類する課題に対処すること。
• 従来の特徴抽出手法（BOW や TF-IDF）の代わりに word2vec 埋め込みを用いることで、感情分類の精度を向上させること。
• word2vec とランダムフォレストアルゴリズムを組み合わせることで、ツイートにおける感情極性検出の有効性を評価すること。
• 文脈的な意味的特徴を有する word2vec が、感情分析タスクにおける機械学習性能を向上させることを示すこと。

提案手法

• word2vec を用いて、トレーニングコーパスからの文脈的意味を捉える密集型の分散ベクトル表現を生成する。
• word2vec モデルは、2019年の選挙関連ツイートの大量コレクション上で学習され、意味的な単語埋め込みを習得する。
• word2vec から得られる特徴ベクトルを、感情極性予測のためのランダムフォレスト分類器の入力として使用する。
• ランダムフォレストアルゴリズムを用いて、学習済みの単語埋め込みに基づき、ツイートを肯定的または否定的感性に分類する。
• 特徴選択モデルを word2vec に統合し、入力特徴の品質を向上させるとともに次元削減を図る。
• word2vec + ランダムフォレストパイプラインの性能を、BOW や TF-IDF などのベースライン手法と比較する。

実験結果

リサーチクエスチョン

• RQ1 word2vec を用いた特徴表現は、BOW や TF-IDF といった従来手法と比較して、感情分類精度をどのように向上させるか？
• RQ2 word2vec をランダムフォレストと組み合わせることで、Twitter データにおける感情分析の性能はどの程度向上するか？
• RQ3 文脈的な単語埋め込みは、短く非公式なソーシャルメディアテキストにおいて感情関連の意味的特徴を効果的に捉えることができるか？
• RQ4 特徴選択の影響は、word2vec 埋め込みの品質およびその後続の分類精度にどのような影響を及えるか？

主な発見

• word2vec とランダムフォレストを用いた本手法は、BOW や TF-IDF といった従来手法よりも、感情分類において著しく高い精度を達成した。
• word2vec は文脈的意味を符号化することで特徴の品質を向上させ、機械学習モデルへの入力の判別力が向上した。
• word2vec とランダムフォレストの統合により、ツイート感情分類における一般化性能およびロバスト性が向上した。
• 文脈的な単語埋め込みの使用により、bag-of-words の仮定への依存が軽減され、より洗練された感情検出が可能になった。