[論文レビュー] A Case Study in Text Mining: Interpreting Twitter Data From World Cup Tweets

Daniel Godfrey, Caley Johns+3 more|arXiv (Cornell University)|Aug 21, 2014

Complex Network Analysis Techniques参考文献 9被引用数 46

ひとこと要約

本研究では、WORLD CUP期のTwitterデータを対象に、k-meansと非負値行列分解（NMF）を比較し、DBSCANとコンSENSUSクラスタリングを組み合わせたノイズ除去パイプラインを用いて分析を行った。NMFは、特にスペイン語のツイートや選手別議論といった明確なテーマを分離できる点で、より高速かつ解釈可能で明確なトピックを生成し、k-meansを上回った。

ABSTRACT

Cluster analysis is a field of data analysis that extracts underlying patterns in data. One application of cluster analysis is in text-mining, the analysis of large collections of text to find similarities between documents. We used a collection of about 30,000 tweets extracted from Twitter just before the World Cup started. A common problem with real world text data is the presence of linguistic noise. In our case it would be extraneous tweets that are unrelated to dominant themes. To combat this problem, we created an algorithm that combined the DBSCAN algorithm and a consensus matrix. This way we are left with the tweets that are related to those dominant themes. We then used cluster analysis to find those topics that the tweets describe. We clustered the tweets using k-means, a commonly used clustering algorithm, and Non-Negative Matrix Factorization (NMF) and compared the results. The two algorithms gave similar results, but NMF proved to be faster and provided more easily interpreted results. We explored our results using two visualization tools, Gephi and Wordle.

研究の動機と目的

• ノイズの多いTwitterテキストデータから意味のあるトピックを特定するためのk-meansとNMFの有効性を評価すること。
• DBSCANとコンセンサス行列を組み合わせることで、現実世界のテキストデータにおける言語的ノイズを低減すること。
• 大規模なTwitterデータセット上で、k-meansとNMFの解釈可能性、計算効率、クラスタリング品質を比較すること。
• Gephi や Wordle などの可視化ツールが、クラスタリング結果の解釈をどのように向上させるかを検討すること。
• ソーシャルメディアのテキストマイニングの文脈において、NMFがk-meansよりも一貫性があり明確なトピックを生成するかどうかを特定すること。

提案手法

• WORLD CUPを含むキーワードを含むツイートを収集するために、TwitterのAPIを用いて約30,000件のツイートを収集した。
• DBSCANとコンセンサス行列を組み合わせて、ノイズが多く代表的でないツイートをフィルタリングし、データセットを29,353件から17,023件に削減した。
• クラスタリングアルゴリズムへの入力として、ツイートを数値ベクトルに変換するためにTF-IDFベクトル化を適用した。
• スパースなテキストデータにおける文書長さへの感受性が低く、効率的であるため、類似度測定にコサイン距離を採用した。
• k=9として、コサイン距離を用いたk-meansクラスタリングを実行し、ランダム初期化と繰り返しの重心再割り当てを収束するまで繰り返した。
• 非負値行列分解（NMF）を用い、項-ドキュメント行列をW（語-トピック）行列とH（トピック-ドキュメント）行列に分解した。k=9のトピックを想定し、反復的制約付き最小二乗法（ACLS）アルゴリズムを用いた。

実験結果

リサーチクエスチョン

• RQ1 k-meansとNMFは、ノイズの多いTwitterテキストデータから一貫性があり解釈可能なトピックを特定する上で、どのように比較されるか？
• RQ2 DBSCANとコンセンサスクラスタリングの組み合わせは、現実世界のテキストマイニング応用において言語的ノイズを効果的に低減できるか？
• RQ3 短く非公式なソーシャルメディアテキストを分析する際、NMFはk-meansに比べてより解釈可能で計算効率の良い結果を提供するか？
• RQ4 Gephi や Wordle などの可視化ツールは、テキストマイニングにおけるクラスタリング結果の解釈性をどのように向上させるか？
• RQ5 k-meansとNMFは、選手別議論や多言語コンテンツのような明確なテーマをどれだけ効果的に分離できるか、その差異はどの程度か？

主な発見

• NMFは、複数回のランダム初期化と繰り返し収束ステップを必要とするk-meansと比べ、より迅速なクラスタリング結果を生成した。
• NMFは、より明確な語-トピック関連性と明確に分離されたテーマクラスタを生成し、特にスペイン語のツイートを専用トピックとして分離できた。
• k-meansはしばしば一貫したテーマを複数のクラスタに分割していた（例：「Falcao/スペイン語/スタジアム」テーマが散逸）。一方、NMFはこのようなテーマを単一で統合されたトピックとして保持した。
• コンセンサス行列アプローチにより、複数回の実行で一貫してクラスタリングされないツイートがフィルタリングされ、データ品質が向上した。
• Gephiを用いた可視化では、NMFのクラスタがよりコンパクトで明確に分離されており、エッジが強いトピック間関係（例：「FIFA」と「会場」トピックが「スタジアム」と「ブラジル」を共有）を示していた。
• Wordleによる可視化では、NMFが各トピックごとに焦点が絞られ、明確なワードクラウドを生成した一方、k-meansの結果は重複するテーマに分散され、ぼやけた印象であった。