[論文レビュー] Unsupervised Keyphrase Extraction with Multipartite Graphs

Florian Boudin|arXiv (Cornell University)|Mar 23, 2018

Advanced Text Analysis Techniques被引用数 4

ひとこと要約

本稿では、キーフレーズ候補とトピックを共同で表現するマルチパーティットグラフを用いた教師なしキーフレーズ抽出モデルを提案する。相互強化を活用して順位付けを向上させる。選択の好み（例：初期出現）を組み込むための新規なエッジ重み調整機構を導入し、3つのベンチマークデータセットで最先端の性能を達成。トピックの多様性と順位付けの正確性が向上した。

ABSTRACT

We propose an unsupervised keyphrase extraction model that encodes topical information within a multipartite graph structure. Our model represents keyphrase candidates and topics in a single graph and exploits their mutually reinforcing relationship to improve candidate ranking. We further introduce a novel mechanism to incorporate keyphrase selection preferences into the model. Experiments conducted on three widely used datasets show significant improvements over state-of-the-art graph-based models.

研究の動機と目的

• 既存のグラフベースのキーフレーズ抽出モデルにおけるトピックの多様性とカバレッジの不足に対処すること。
• トピックとキーフレーズ候補の相互強化をモデル化することで、キーフレーズ順位付けを改善すること。
• 教師なしで、選択の好み（例：位置、語彙的特徴）をグラフ順位付けプロセスに統合すること。
• トピッククラスタリングの品質に依存しないように、グラフ構造による暗黙的な多様性の強制により依存度を低下させること。
• ラベル付きデータや複雑なパrameterチューニングを必要とせず、標準ベンチマークで優れた性能を達成すること。

提案手法

• ノードがキーフレーズ候補とトピックである有向マルチパーティットグラフを構築し、異なるトピックのノード間でのみエッジを設ける。
• キーフレーズ候補とトピックの共起頻度に基づいてエッジ重みを割り当てる。
• グラフ理論的順位付けアルゴリズム（TextRank）を適用してキーフレーズ候補のスコアを算出する。
• 望ましい特徴（例：初期出現）を持つ候補をエッジ重みの変更により強化する、重み調整機構を導入する。
• 重み調整の強度をハイパーパrameter α で調整し、検証セット上で最適化する。
• 語幹の階層的凝集型クラスタリングを用いて候補をトピックにグループ化し、外部知識ベースに依存しないようにする。

実験結果

リサーチクエスチョン

• RQ1 マルチパーティットグラフ構造は、キーフレーズ候補とトピックの相互強化を効果的にモデル化でき、順位付けの向上に寄与するか？
• RQ2 エッジ重み調整による選択の好み（例：位置、語彙的特徴）の組み込みは、キーフレーズ抽出の性能向上に寄与するか？
• RQ3 硬直的な制約やトピッククラスタリングを用いずに、トピックの多様性を暗黙的に強制できるか？クラスタリング誤りの感度を低下させられるか？
• RQ4 提案モデルは、F1スコアおよびMAPスコアの観点で、最先端の教師なしベースラインと比較してどのように差をつけるか？
• RQ5 ベースラインモデルにおける単語重みの和算による過剰生成エラーは、どの程度モデルによって低減されるか？

主な発見

• 提案モデルは、すべての3つのデータセット（SemEval-2010, Hulth-2003, Marujo-2012）で最高のF1スコアおよびMAPスコアを達成し、TopicRank、PositionRank、Single Topical PageRankを顕著に上回った。
• SemEval-2010データセットでは、F1@10スコアが0.568を達成し、最良のベースライン（PositionRank）よりも相対的に4.2%の向上を示した。
• 上位10キーフレーズにおけるトピックカバレッジが92%を超えたことから、硬直的制約なしに効果的な暗黙の多様性強制が実現した。
• 重み調整機構を除去すると、特にSemEval-2010のF1@5において顕著な性能低下が見られ、好み統合の重要性が裏付けられた。
• 単純な単語重みの和算を避けることで、精度とMAPスコアの向上が示され、過剰生成エラーが低減された。
• 手動による検査では、トピックの重複するキーフレーズは、主にクラスタリング誤りや意味的関係（例：上位概念・下位概念）に起因しており、ゴールドスタンダードアノテーションの限界を示唆した。