[論文レビュー] Sentiment Analysis of Twitter Data for Predicting Stock Market Movements

Venkata Sasank Pagolu, Kamal Nayan Reddy Challa+2 more|arXiv (Cornell University)|Oct 28, 2016

Stock Market Forecasting Methods参考文献 10被引用数 13

ひとこと要約

本稿では、Word2vecおよびN-gramのテクスチャル表現を用いて、Twitterデータ内の公開された感情を分析することで、株価の予測を目的とした機械学習手法を提案している。3日間の期間にわたるつぶやきの感情の集計値と翌日の株価変動との間に強い相関が示され、LibSVMを用いた実験で71.82％の正確性を達成しており、ソーシャルメディアからの感情が市場動向を効果的に予測できることを示している。

ABSTRACT

Predicting stock market movements is a well-known problem of interest. Now-a-days social media is perfectly representing the public sentiment and opinion about current events. Especially, twitter has attracted a lot of attention from researchers for studying the public sentiments. Stock market prediction on the basis of public sentiments expressed on twitter has been an intriguing field of research. Previous studies have concluded that the aggregate public mood collected from twitter may well be correlated with Dow Jones Industrial Average Index (DJIA). The thesis of this work is to observe how well the changes in stock prices of a company, the rises and falls, are correlated with the public opinions being expressed in tweets about that company. Understanding author's opinion from a piece of text is the objective of sentiment analysis. The present paper have employed two different textual representations, Word2vec and N-gram, for analyzing the public sentiments in tweets. In this paper, we have applied sentiment analysis and supervised machine learning principles to the tweets extracted from twitter and analyze the correlation between stock market movements of a company and sentiments in tweets. In an elaborate way, positive news and tweets in social media about a company would definitely encourage people to invest in the stocks of that company and as a result the stock price of that company would increase. At the end of the paper, it is shown that a strong correlation exists between the rise and falls in stock prices with the public sentiments in tweets.

研究の動機と目的

• Twitterのつぶやきに表現された公的な感情とその後の株価動向との相関関係を調査すること。
• 短いテキスト（つぶやき）を正確にポジティブ、ネガティブ、ニュートラルの3つに分類できる、強固な感情分析器を開発すること。
• 時間経過に伴う感情の集計値が、株価の上昇／下落という方向性の変化を、ランダムな当てずっぽうより高い正確性で予測できるかどうかを評価すること。
• 金融予測タスクにおける感情分類の文脈で、Word2vecとN-gramという2つのテクスチャル表現手法の性能を比較すること。

提案手法

• 特定の企業に関連するTwitterデータをキーワードとAPIを用いて収集し、その株式に関する公的な感情に焦点を当てた。
• ノイズ（例：URL、メンション）の除去を実施した後、2つのテクスチャル表現手法（Word2vec埋め込みとN-gram特徴抽出）を適用した。
• ラベル付きの感情データを用いて、複数の教師あり機械学習分類器（例：ランダムフォレスト、ロジスティック回帰、LibSVM）を訓練し、つぶやきをポジティブ、ネガティブ、ニュートラルの3つに分類した。
• 翌日の株価の方向性（1 = 上昇、0 = 下降）を予測するための入力特徴として、3日間のローリングウィンドウ内で感情スコア（ポジティブ、ネガティブ、ニュートラルの数）を集計した。
• データセットを80％のトレーニングデータと20％のテストデータに分割し、Wekaを用いてモデルの訓練と評価を実施。標準的な指標（正確性、適合率、再現率、F1スコア）を用いた。
• 受信者操作特性曲線（ROC曲線）を用いてモデルの性能を評価し、異なるアルゴリズムおよび特徴表現の間で比較することで、最適な構成を同定した。

実験結果

リサーチクエスチョン

• RQ1 Twitterのつぶやきにおける公的な感情とその後の株価動向との間に、統計的に有意な相関が存在するか？
• RQ2 N-gramとWord2vecの表現手法は、人間によるラベル付けと比較して、つぶやきのような短く非公式なテキストの感情分類においてどの程度の精度を示すか？
• RQ3 3日間のウィンドウで集計された感情スコアは、翌日の株価の方向性を意味のある正確性で予測できるか？
• RQ4 Twitterデータから得られる感情特徴を用いてトレーニングされた際、どの機械学習アルゴリズムが株価の方向性予測において最も優れた性能を示すか？

主な発見

• N-gram特徴を用いた感情分析器は70.5％の正確性を達成し、Word2vec特徴を用いた場合も70.2％の正確性を示した。両者とも、短いテキストにおける感情分類の一般的な人間間一致範囲（70–79％）を超えていた。
• Word2vecベースのモデルは、特に大規模なデータセットにおいてスケーラビリティと意味的整合性の観点で優れており、N-gramに比べてわずかに低い正確性であったが、好ましい選択肢であった。
• 3日間の集計感情特徴を用いてトレーニングした分類器は、ロジスティック回帰を用いると69.01％の正確性、LibSVMを用いると71.82％の正確性を達成しており、強い予測力が示された。
• 結果から、Twitterにおける公的な感情トレンドと実際の株価動向との間に有意な相関が存在することが明らかになった。これは、ソーシャルメディアの感情が市場の方向性を予測可能であるという仮説を支持するものである。
• 訓練データが増加するにつれてモデルの性能が向上したため、3,216件を超えるアノテート済みデータセットを拡大すれば、さらなる正確性の向上が期待できる。
• 本研究では、企業についてのTwitter上でのポジティブな公的意見が、その後の株価上昇と関連していることが確認され、感情駆動型市場予測の核心的仮説が妥当であることが裏付けられた。