[論文レビュー] Revisiting the Centroid-based Method: A Strong Baseline for Multi-Document Summarization

Demian Gholipour Ghalandari|arXiv (Cornell University)|Aug 25, 2017

Topic Modeling参考文献 7被引用数 7

ひとこと要約

本稿では、要約自体を重心として扱い、文書集合の重心との類似度を最大化するための貪欲法を用いることで、要約品質を最適化する修正された重心ベースの手法を提案する。この手法はDUC2004で最先端のROUGEスコアを達成し、元の手法を上回り、複雑なモデルと同等の性能を示すが、高速で教師なしであり、実装が容易である。

ABSTRACT

The centroid-based model for extractive document summarization is a simple and fast baseline that ranks sentences based on their similarity to a centroid vector. In this paper, we apply this ranking to possible summaries instead of sentences and use a simple greedy algorithm to find the best summary. Furthermore, we show possi- bilities to scale up to larger input docu- ment collections by selecting a small num- ber of sentences from each document prior to constructing the summary. Experiments were done on the DUC2004 dataset for multi-document summarization. We ob- serve a higher performance over the orig- inal model, on par with more complex state-of-the-art methods.

研究の動機と目的

• 従来の重心ベースの抽出型マルチドキュメント要約手法の性能を向上させること。
• 文書の順序付けではなく、要約候補全体に対するグローバル最適化が、より良い結果をもたらすかどうかを調査すること。
• 効率的な文の事前選択戦略を用いて、大規模な文書コレクションにおける計算コストを低減すること。
• 複雑な最先端モデルと同等の性能を示す、強力でシンプルかつ教師なしのベースラインを確立すること。

提案手法

• 要約をその構成文ベクトルのベクトル和として表現し、要約重心を形成する。
• 要約重心と文書コレクション重心とのコサイン類似度を計算することで、候補要約をスコア化する。
• 進化する要約が文書重心に最も類似するように、貪欲法を用いて文を段階的に選択する。
• 入力文を制限し、効率を向上させるために、N-first、N-best、New-TF-IDFの文の事前選択手法を適用する。
• 文と重心の表現に、TF-IDF重み付きのbag-of-words表現を用いる。
• 重心ベクトルの値にしきい値を設定し、最も顕著な語彙のみを保持することで、入力サイズの変動にかかわらず安定性を向上させる。

実験結果

リサーチクエスチョン

• RQ1 文のレベルではなく、要約のレベルでの最適化が、抽出型マルチドキュメント要約の性能向上に寄与するか？
• RQ2 重心類似度に基づくグローバル最適化戦略は、明示的な重複除去フィルタリングへの依存を低減するか？
• RQ3 N-first、N-best、New-TF-IDFといった異なる文の事前選択戦略は、計算コストを削減しながらも、性能を維持するのにどの程度有効か？
• RQ4 シンプルで教師なしの重心ベース手法が、標準ベンチマークで複雑な最先端モデルと同等の性能を達成できるか？

主な発見

• 修正されたグローバル重心法は、DUC2004データセットにおいて、元の文順序付けベースの重心モデルよりも高いROUGEスコアを達成した。
• この手法は教師なしであり、学習を必要としないにもかかわらず、より複雑な最先端モデルと同等の性能を示した。
• N-bestおよびNew-TF-IDFの事前選択手法は、N-firstよりも優れた要約を生成し、特に後続の文からの重要な内容を捉えるのに優れていた。
• グローバル最適化アプローチにより、重複する文の組み合わせが重心類似度が低くなることで自然にペナルティが与えられるため、明示的な重複除去フィルタリングへの依存が低下した。
• 事前選択戦略は計算時間を顕著に削減したが、性能を維持または向上させることができ、特にグローバル最適化と組み合わせると顕著だった。
• 重心ベクトルにおける低価値語彙のしきい値処理により、入力サイズの変動にかかわらず、手法の堅牢性が保たれた。