[論文レビュー] ET-LDA: Joint Topic Modeling for Aligning Events and their Twitter Feedback

Yuheng Hu, Ajita John+2 more|arXiv (Cornell University)|Nov 13, 2012

Topic Modeling参考文献 22被引用数 50

ひとこと要約

本稿では、ライブ放送イベント中のTwitterデータに対してトピックモデリングとイベントセグメンテーションを同時に実行する統合ベイジアンモデル、ET-LDAを提案する。トピックと時系列セグメントを一緒にモデリングすることにより、独立したアプローチに比べて性能が向上し、2つのスケールの大きなイベントデータセットにおいて顕著な向上が確認された。

ABSTRACT

During broadcast events such as the Superbowl, the U.S. Presidential and Primary debates, etc., Twitter has become the de facto platform for crowds to share perspectives and commentaries about them. Given an event and an associated large-scale collection of tweets, there are two fundamental research problems that have been receiving increasing attention in recent years. One is to extract the topics covered by the event and the tweets; the other is to segment the event. So far these problems have been viewed separately and studied in isolation. In this work, we argue that these problems are in fact inter-dependent and should be addressed together. We develop a joint Bayesian model that performs topic modeling and event segmentation in one unified framework. We evaluate the proposed model both quantitatively and qualitatively on two large-scale tweet datasets associated with two events from different domains to show that it improves significantly over baseline models.

研究の動機と目的

• ライブイベント分析において、トピックモデリングとイベントセグメンテーションを別々のタスクとして扱う際の制限を解消すること。
• ツイートに含まれるトピックの特定とイベントのタイムラインセグメンテーションの間の相関関係を調査すること。
• 大規模なTwitterデータからトピックと時系列セグメントを同時に学習する統一された確率的モデルを開発すること。
• 実世界の多様な分野の放送イベントに対して、モデルの性能を評価すること。
• 統合モデリングが、独立したモデルに比べてより優れたトピック品質とより正確なイベントセグメンテーションをもたらすことを示すこと。

提案手法

• ET-LDAは、ツイートの系列からトピックと時系列セグメントを同時に推論する統合ベイジアン生成モデルを採用する。
• 各ツイートを、トピックと時間的セグメントの両方に条件付きで依存させるモデルであり、両タスク間で共有される潜在変数を有する。
• トピックにはディリクレ過程の事前分布を用い、セグメントの割り当てには中国レストラン過程に類似した構造を採用する。
• 推論はギブスサンプリングにより実行され、各ツイートについてトピックの割り当てとセグメント境界を同時に更新する。
• 尤度関数は、トピックとセグメントのインジケータを統合し、両次元における一貫性を最大化する。
• 事前セグメンテーション済みデータや外部の教師信号を必要としないエンドツーエンドの学習が可能である。

実験結果

リサーチクエスチョン

• RQ1 独立したモデリングと比較して、トピックとイベントセグメントを統合的にモデリングすることで性能が向上するか？
• RQ2 統合モデルが特定するトピックは、独立したトピックモデリングの結果と比べてどのように異なるか？
• RQ3 モデルはライブイベントの意味的な時系列的セグメンテーションをどの程度適切に捉えられるか？
• RQ4 モデルは異なる種類の放送イベントに一般化して適用可能か？
• RQ5 トピックとセグメンテーションの依存関係をモデリングすることで、全体の推論品質にどのような影響を与えるか？

主な発見

• ET-LDAは、2つのスケールの大きなデータセットにおいて、ベースラインモデルに比べてトピックの一貫性とイベントセグメンテーションの正確性の両面で顕著に優れている。
• 独立したトピックモデリングと比較して、統合モデルはより高い正規化ポイントワイズ相互情報量（NPMI）スコアを達成している。
• イベントセグメンテーションの結果では、ベースラインのセグメンテーションモデルに比べてF1スコアが向上しており、イベントの境界の検出能が向上していることが示された。
• 定性的な分析により、モデルが意味的に整合性のあるトピックとイベント報道における意味的な時系列的フェーズを適切に特定していることが確認された。
• スポーツや政治的討論など、異なる分野においてもモデルの堅牢性が示された。
• トピックモデリングとセグメンテーションモデリングの統合により、より解釈可能で時系列的に整合性のある結果が得られた。