[論文レビュー] Content-driven, unsupervised clustering of news articles through multiscale graph partitioning

M. Tarık Altuncu, Sophia N. Yaliraki+1 more|arXiv (Cornell University)|Aug 3, 2018

Complex Network Analysis Techniques被引用数 9

ひとこと要約

本稿は、Doc2vec埋め込みとマーカフ安定性を用いたマルチスケールグラフ分割を用いて、ニュース記事の非教師ありでコンテンツ駆動型のクラスタリングフレームワークを提案する。複数の解像度において階層的なトピックグループ化を明らかにし、LDA やベースライン手法と比較してより高いトピック一貫性と商業的分類サービスとの整合性を達成した。2016年のVox Mediaの9,021件の記事からなるコーパスを用いた検証で裏付けられている。

ABSTRACT

The explosion in the amount of news and journalistic content being generated across the globe, coupled with extended and instantaneous access to information through online media, makes it difficult and time-consuming to monitor news developments and opinion formation in real time. There is an increasing need for tools that can pre-process, analyse and classify raw text to extract interpretable content; specifically, identifying topics and content-driven groupings of articles. We present here such a methodology that brings together powerful vector embeddings from Natural Language Processing with tools from Graph Theory that exploit diffusive dynamics on graphs to reveal natural partitions across scales. Our framework uses a recent deep neural network text analysis methodology (Doc2vec) to represent text in vector form and then applies a multi-scale community detection method (Markov Stability) to partition a similarity graph of document vectors. The method allows us to obtain clusters of documents with similar content, at different levels of resolution, in an unsupervised manner. We showcase our approach with the analysis of a corpus of 9,000 news articles published by Vox Media over one year. Our results show consistent groupings of documents according to content without a priori assumptions about the number or type of clusters to be found. The multilevel clustering reveals a quasi-hierarchy of topics and subtopics with increased intelligibility and improved topic coherence as compared to external taxonomy services and standard topic detection methods.

研究の動機と目的

• 事前に定義されたカテゴリーやラベルなしで、ニュース記事の非教師ありでコンテンツ駆動型のクラスタリングを実現すること。
• 深層テキスト埋め込みとグラフ理論的マルチスケール解析を活用することで、トピックの一貫性と解釈可能性を向上させること。
• 文書ベクトル内の意味的類似性から直接、階層的なトピック構造（サブトピックと広範なテーマ）を同定できること。
• トピック一貫性とクラスタリング類似性の観点から、商業的分類サービス（Google Cloud、Open Calais）および標準的トピックモデリング（LDA）と比較して性能を評価すること。
• 時間分解能のあるクラスタープロファイルを通じて、米国大統領選挙サイクルなどの時間的局在的イベントを同定できること。

提案手法

• テキスト前処理には、トークン化、ストップワード除去、NLTKを用いたステミング、および周波数ベースのハッシュ化技術を用いて繰り返し発生する情報のないラッピング文の削除が含まれる。
• ドキュメントベクトルは、文書全体の意味的・構文的特徴を捉えることができる深層ニューラルネットワークモデルであるDoc2vecを用いて生成される。
• ノードがドキュメントベクトルを表し、エッジがベクトル間のコサイン類似度を表す類似度グラフが構築される。
• マルコフ安定性フレームワークを用いてマルチスケールコミュニティ検出が実施され、グラフ上のランダムウォークダイナミクスを分析することで、複数の解像度パラメータにおける安定したパーティションを同定する。
• 解像度パラメータを変化させることで、細分化されたサブトピックから広範なテーマに至るまでのクラスタの階層が得られ、複数レベルのトピック探索が可能になる。
• クラスタの品質は、商業APIとの間の正規化相互情報量（NMI）とPMIに基づくトピック一貫性スコアを用いて評価され、LDA やベースライン手法と比較される。

実験結果

リサーチクエスチョン

• RQ1 事前にラベル付けや分類体系なしに、非教師ありでコンテンツ駆動型のクラスタリング手法が、一貫性があり階層的なトピックグループ化を明らかにできるか？
• RQ2 Google Cloud や Open Calais などの商業的分類サービスと比較して、提案手法のトピック一貫性と整合性はどの程度高いか？
• RQ3 時間分解能のあるクラスタープロファイルを通じて、米国大統領選挙の各フェーズ（予備選挙、党大会、論争など）のような時間的局在的イベントを同定できるか？
• RQ4 Doc2vec埋め込みとマーカフ安定性を統合することで、従来のLDA やbag-of-wordsアプローチと比較して、より解釈可能で安定したトピッククラスタを生成できるか？
• RQ5 同定されたクラスタが、予備選挙、党大会、政治的論争といった現実のジャーナリズム的テーマやイベントサイクルをどの程度反映しているか？

主な発見

• 提案手法は、15クラスタ分割においてPMIベースのトピック一貫性スコア0.257を達成し、LDA（0.144）、Open Calais（0.157）、Google Cloud（0.204）を上回った。
• 正規化相互情報量（NMI）スコアは、マルチスケール（MS）クラスタリングが両方の商業サービスと最も類似しており、15クラスタの場合、Google CloudとのNMIは0.351、Open CalaisとのNMIは0.303であった。
• 28クラスタ分割では、2016年米国大統領選挙サイクルに関連する9つのコミュニティが特定され、それぞれが予備選挙、党大会、論争などの主要イベントと一致する明確な時間的プロファイルを示した。
• ワードクラウドとサナキ図は、商業APIの広範なカテゴリーよりも洗練されたテーマグループ化（例：「トランプ」、「クリントンのメール」、「キャンペーン／投票」）を同定していることを示した。
• 本手法は、ラッピングアーティファクトが支配する2つのコミュニティを効果的にフィルタリングした。これは、前処理およびクラスタリングパイプラインの堅牢性を裏付けている。
• 結果として、グラフ分割を用いたコンテンツ駆動型の非教師ありクラスタリングは、標準的トピックモデリングや商業的分類サービスよりも、より解釈可能で一貫性のあるトピック階層を生成できることを示した。