[論文レビュー] Keyword and Keyphrase Extraction Using Centrality Measures on Collocation Networks

Shibamouli Lahiri, Sagnik Ray Choudhury+1 more|arXiv (Cornell University)|Jan 25, 2014

Advanced Text Analysis Techniques参考文献 48被引用数 52

ひとこと要約

本稿では、語と名詞句の共起ネットワーク上で中心性指標を用いたグラフベースのキーワードおよびキーフレーズ抽出手法を提案する。degreeやstrengthといった単純な指標が、外部コーパスを必要とせずPageRankを上回るか同等の性能を発揮することを実証している。本手法はベンチマークデータセットで最先端の性能を達成し、tf-idfや他の非教師ありベースラインを上回るが、計算効率が高く、知識に依存しない。

ABSTRACT

Keyword and keyphrase extraction is an important problem in natural language processing, with applications ranging from summarization to semantic search to document clustering. Graph-based approaches to keyword and keyphrase extraction avoid the problem of acquiring a large in-domain training corpus by applying variants of PageRank algorithm on a network of words. Although graph-based approaches are knowledge-lean and easily adoptable in online systems, it remains largely open whether they can benefit from centrality measures other than PageRank. In this paper, we experiment with an array of centrality measures on word and noun phrase collocation networks, and analyze their performance on four benchmark datasets. Not only are there centrality measures that perform as well as or better than PageRank, but they are much simpler (e.g., degree, strength, and neighborhood size). Furthermore, centrality-based methods give results that are competitive with and, in some cases, better than two strong unsupervised baselines.

研究の動機と目的

• PageRank以外の中心性指標がキーワードおよびキーフレーズ抽出の性能向上に寄与するかどうかを調査すること。
• 語および名詞句の共起ネットワークにおけるさまざまな中心性指標の有効性を評価すること。
• degree や strength といった単純な中心性指標が、PageRank や centralization といったより複雑な指標を上回るか同等の性能を発揮するかどうかを特定すること。
• 外部知識源に依存しない強力な非教師ありベースライン（例：tf-idf）と比較して、グラフベースの中心性手法の性能を評価すること。
• リアルタイムでのキーワードおよびキーフレーズ抽出が可能な軽量で、知識に依存しないオンラインシステムを設計すること。

提案手法

• テキストをスライディングウィンドウで処理し、語および名詞句の共起関係を捉えることで、語および名詞句の共起ネットワークを構築する。
• 重みなしおよび重み付きグラフの両方に対して、degree, strength, PageRank, 開放度, ハブ/オーソリティスコア、および近隣ノード数を含む11種類の中心性指標を適用する。
• 共起頻度に基づいた重み付き有向グラフを用いて、共起の強さをモデル化する。
• 中心性スコアに基づいて語およびフレーズをランク付けし、ベンチマークデータセット上で標準的な精度、再現率、Fスコアの指標を用いて評価する。
• 5% から 100% まで5%刻みのしきい値を用いて、tf-idf や他のベースラインと比較可能なランク付きリストを生成する。
• 複数のデータセットにわたる統合されたゴールドスタンダードアノテーションを用いることで、分野をまたがる堅牢な評価を実現する。

実験結果

リサーチクエスチョン

• RQ1 PageRank以外の中心性指標が、キーワードおよびキーフレーズ抽出において同等または優れた性能を発揮できるか？
• RQ2 degree や strength といった単純な中心性指標が、betweenness や coreness といったより複雑な指標を上回るか？
• RQ3 中心性ベースの手法は、tf-idf ベースラインと比較して、精度、再現率、Fスコアの観点でどのように差をつけるか？
• RQ4 語ネットワークと名詞句ネットワークのどちらが、さまざまな中心性指標に対してより優れた性能を発揮するか？
• RQ5 知識に依存しないグラフベースの手法が、外部コーパスを必要とせず、既存の非教師ありベースラインを上回ることができるか？

主な発見

• degree, strength, および近隣ノード数（順序1）の変種が、4つのベンチマークデータセットすべてでPageRankと同等または優れた性能を発揮した。
• degree および strength 中心性指標は、キーフレーズ抽出の11個のゴールドスタンダードアノテーションのうち9つでtf-idfを上回り、NUSおよびICSIデータセットではより高いFスコアを記録した。
• PageRankはdegreeおよびstrengthと同等またはわずかに劣る性能を示し、単純な指標が十分に機能し、かつ計算効率に優れていることが示された。
• 構造的多様性指数およびクラスタリング係数の変種は、最も成績が悪く、本文脈では限られた有用性を示した。
• 中心性ベースの手法は、ICSIおよびNUSデータセットでTextRank, SingleRank, ExpandRank, KeyClusterを上回り、強い競争優位性を示した。
• 外部コーパスを必要とせず、データセット全体で高い精度と再現率を達成した。これは、tf-idfの知識に依存しない代替手法としての有効性を裏付けた。