[論文レビュー] Discovering topics in text datasets by visualizing relevant words

Franziska Horn, Leila Arras+3 more|arXiv (Cornell University)|Jul 18, 2017

Advanced Text Analysis Techniques参考文献 14被引用数 3

ひとこと要約

本論文では、ドキュメントクラスタを特徴付ける関連語を特定・可視化することで、テキストデータセットにおけるトレンドトピックを発見する手法を提案する。DBSCANクラスタリングと、真正陽性率（TPR）および偽陽性率（FPR）に基づく新しい関連度スコアを用いることで、顕著なトピックを示す情報豊富なワードクラウドを生成する。実際のニューズペーパーのスニペットを用いた実験では、トランプ大統領の就任式や関連する出来事といった重要なテーマが同定された。

ABSTRACT

When dealing with large collections of documents, it is imperative to quickly get an overview of the texts' contents. In this paper we show how this can be achieved by using a clustering algorithm to identify topics in the dataset and then selecting and visualizing relevant words, which distinguish a group of documents from the rest of the texts, to summarize the contents of the documents belonging to each topic. We demonstrate our approach by discovering trending topics in a collection of New York Times article snippets.

研究の動機と目的

• 大規模かつ非構造的なテキストデータセットの迅速な探索的分析を可能にするために、顕著なトピックを同定すること。
• 従来のキーワード抽出手法がドキュメントグループ間のトピック固有の差を捉えられないという限界を是正すること。
• ラベルなしデータを前提としながらも、1つのドキュメントクラスタを他のクラスタから区別する語を強固かつ高速に同定する手法を開発すること。
• ワードクラウド可視化の有用性を、現実世界のテキストコレクションにおけるトピッククラスタの要約および解釈に示すこと。
• 他のテキストデータセットに適用・再現可能であるように、オープンソースのツールを提供すること。

提案手法

• 単語およびビグラムのtf-idfベクトルを計算するため、小文字に変換し、アルファベット・数字以外の文字を除去するなど、テキストを前処理する。
• コサイン類似度の最小閾値を0.55、最小クラスタサイズを3ドキュメントとして、DBSCANクラスタリングを用いて関連する記事をグループ化する。
• 各語の真正陽性率（TPR）をクラスタ内、および他のクラスタ全体における偽陽性率（FPR）を計算し、関連度スコアを算出する。
• TPRとFPRスコアを組み合わせ、次の式を用いて最終的な関連度スコアを算出する：$ r_c(t_i) = 0.5(r_{c\_diff}(t_i) + r_{c\_quot}(t_i)) $、ここで $ r_{c\_quot} $ は不均衡を補正するためのレート商である。
• 各クラスタごとに上位スコアの語を選出し、ワードクラウドとして可視化して各トピックを要約する。
• 個々のドキュメント内で関連語を強調表示することで、解釈およびナビゲーションを支援する。

実験結果

リサーチクエスチョン

• RQ1 クラスタリングに基づくアプローチに加え、語の可視化を組み合わせることで、大規模なテキストコレクションにおけるトレンドトピックを効果的に明らかにできるか？
• RQ2 特にラベルなしの状況下において、1つのドキュメントクラスタを他のクラスタから区別する語をどのように同定できるか？
• RQ3 提案手法のTPR-FPRベースの関連度スコアは、従来のtf-idfなどの手法に比べて、トピックを特徴付ける語をどれほど優れているか？
• RQ4 事前にトピックの知識がなくても、ニューススニペットから意味のある現実世界の出来事（例：政治的就任式、スポーツイベント）を同定できるか？
• RQ5 クラスタサイズやドキュメントの分布の変動に対して、この手法はどの程度頑健であるか？

主な発見

• この手法は、トランプ大統領の就任式の週を中核的なトピックとして的確に同定した。関連語として「Trump」、「inauguration」、「president」が強くクラスタリングされた。
• 本手法は、オーストラリア・オープンやイタリアの landslides（雪崩）といった二次的出来事も検出でき、主な出来事以外の微細なトピックを同定できる能力を示した。
• 上位関連度スコアの語から生成されたワードクラウドは、各クラスタの内容を明確に要約しており、ドキュメントコンテンツの即時の視覚的解釈を可能にした。
• TPRおよびFPRに基づくスコアリングにより、時系列頻度の高さから誤って上昇させられる可能性のある無関係な語（例：「Tuesday」）の選択リスクが低減された。
• 就任式の週において、政治的任命や矯正制度に関するトピックを含め、50以上もの意味のあるクラスタが同定され、本手法の多様なテーマへの感受性が裏付けられた。
• オープンソースのライブラリ「textcatvis」により、他のテキストデータセットに対しても本手法の再現性と再利用性が確保された。