[論文レビュー] Exploring Twitter Hashtags

Jan Pöschko|arXiv (Cornell University)|Nov 28, 2011

Advanced Text Analysis Techniques参考文献 4被引用数 11

ひとこと要約

本論文では、共起パターン、品詞タグ付け、地理的知識を用いて、Twitterのハッシュタグを5つの直感的なカテゴリ—組織、場所、人物、イベント、カテゴリ—に分類する機械学習的手法を提案する。主な貢献は、ハッシュタグの共起辞書と分類器の出力を可視化できるインタラクティブなWebアプリケーション「TwitterExplorer」の開発であり、カテゴリ分類の5-fold交差検証F1スコアは0.55、人物分類は0.38であった。

ABSTRACT

Twitter messages often contain so-called hashtags to denote keywords related to them. Using a dataset of 29 million messages, I explore relations among these hashtags with respect to co-occurrences. Furthermore, I present an attempt to classify hashtags into five intuitive classes, using a machine-learning approach. The overall outcome is an interactive Web application to explore Twitter hashtags.

研究の動機と目的

• 共起パターンに基づく意味的辞書の構築により、#tcot や #p2 のように明確な意味を持たないハッシュタグの曖昧さを解消すること。
• 教師あり機械学習を用いて、組織、場所、人物、イベント、カテゴリの5つの直感的な意味的クラスにハッシュタグを分類すること。
• ハッシュタグの共起ネットワークと分類器の結果を可視化するインタラクティブなWebアプリケーションの開発により、一般公開可能な探索を可能にすること。
• 品詞タグ付けや地理的名前認識といった特徴工学の有効性が、分類性能の向上に寄与するかどうかを評価すること。
• 今後のハッシュタグ理解と分類の向上のため、ソーシャルグラフデータや時間的パターンの利用可能性を検討すること。

提案手法

• ハッシュタグペア間の共有ツイート数を計算することで共起辞書を構築し、各ハッシュタグについて上位10件の共起ハッシュタグをSQLiteデータベースに格納した。
• 最大エントロピー（MaxEnt）分類器を用い、品詞タグ、Geonamesからの地理的名前認識、文脈的単語特徴を特徴量とした。
• 計算負荷を軽減するため、各ハッシュタグごとに100件のランダムに抽出されたツイートを用いて5-fold交差検証を実施した。
• Djangoを用いてWebアプリケーションを実装し、AJAXによる動的ロードで分類詳細を表示。インタラクティブUI要素にはPrototypeとRGraphを活用した。
• 階層的クラスタリングを用いてハッシュタグの共起関係を可視化するためのクラスタ化されたグラフを生成した。
• トークン化の過程でハッシュタグ、@リプライ、URL、絵文字を保持するため、カスタム正規表現を用いてツイートを事前処理した。

実験結果

リサーチクエスチョン

• RQ1 ハッシュタグの共起パターンは、意味的に関連するハッシュタグを提示する信頼性のある意味的辞書を構築できるか？
• RQ2 機械学習分類器は、組織、場所、人物、イベント、カテゴリの5つの意味的クラスのハッシュタグをどれほど効果的に区別できるか？
• RQ3 品詞タグ付けと地理的名前認識は、分類精度をどの程度向上させるか？
• RQ4 共起データと言語的特徴の組み合わせにより、実世界のTwitterデータにおける効果的かつスケーラブルなハッシュタグ分類が可能になるか？
• RQ5 ハッシュタグの意味的特性と共起ネットワークの探索を支援するため、どのようにインタラクティブなWebインターフェースを設計できるか？

主な発見

• 共起辞書は意味的に関連するハッシュタグを効果的に抽出でき、#obama や #apple のような一般的なハッシュタグでは高い正確性を示し、#obama に対して #tcot や #gop といった妥当な関連語を提示した。
• MaxEnt分類器はカテゴリ分類でF1スコア0.55、人物分類で0.38、場所分類で0.59を達成し、中程度の性能を示したが、改善の余地があることがわかった。
• イベント分類は非常に低く、F1スコアはたった0.08にとどまり、現在の特徴量ではイベント関連のハッシュタグを検出するのに不十分であることが示された。
• 地理的名前特徴量は場所分類の性能を顕著に向上させ、混同行列では39個の場所関連ハッシュタグのうち23個が正しく分類された。
• Webアプリケーション「TwitterExplorer」は、ハッシュタグの共起辞書と分類器の出力を効果的に可視化し、ハッシュタグとその文脈のインタラクティブな探索を可能にした。
• 分類器の性能は、1つのハッシュタグあたり100件のトレーニングデータという小さなデータセットと、イベント検出に不十分な特徴工学に起因しており、時間的要因やソーシャルネットワーク特徴量の導入が今後の改善に不可欠であると考えられる。