[論文レビュー] Improving Multi-Document Summarization via Text Classification

Ziqiang Cao, Wenjie Li+2 more|arXiv (Cornell University)|Nov 28, 2016

Topic Modeling被引用数 43

ひとこと要約

本稿では、文書分類データを活用して、共有分散文書表現を学習し、分類ごとの変換を適用することで、適切なスタイルの要約を生成するTCSumと呼ばれる、新しいマルチドキュメント要約システムを提案する。この手法は、手動で設計された特徴量を用いないDUCベンチマークで最先端のROUGEスコアを達成し、文書カテゴリ間でのスタイル適応性が向上していることを示している。

ABSTRACT

Developed so far, multi-document summarization has reached its bottleneck due to the lack of sufficient training data and diverse categories of documents. Text classification just makes up for these deficiencies. In this paper, we propose a novel summarization system called TCSum, which leverages plentiful text classification data to improve the performance of multi-document summarization. TCSum projects documents onto distributed representations which act as a bridge between text classification and summarization. It also utilizes the classification results to produce summaries of different styles. Extensive experiments on DUC generic multi-document summarization datasets show that, TCSum can achieve the state-of-the-art performance without using any hand-crafted features and has the capability to catch the variations of summary styles with respect to different text categories.

研究の動機と目的

• 限定されたアノテート済みトレーニングデータによるマルチドキュメント要約の性能ボトルネックを解消すること。
• 豊富な文書分類データセットを活用して、より良い文書表現を学習することで要約性能を向上させること。
• 異なる文書カテゴリにおける要約構造の変化をモデル化することで、スタイル適応型要約を可能にすること。
• 手動で設計された言語的特徴量に依存しないデータ駆動型要約システムの開発

提案手法

• TCSumは、文書分類と要約の間で共有されるドキュメント埋め込みモデルを共有し、CNNベースの分類器を用いて文書を分散表現にマップする。
• 同じドキュメント埋め込みを要約タスクにも使用し、予測された文書カテゴリに応じた変換層を適用して要約スタイルを適応させる。
• カテゴリ固有の変換行列を学習し、ドキュメント埋め込みを重要度スコアにマップすることで、参照要約の意味的特徴と一致させる。
• 手動で設計された特徴量を一切使用せず、エンド・ツー・エンドのニューラルトレーニングを実行し、学習済み表現と分類ラベルにのみ依存する。
• 変換された埋め込みを用いて文書の重要度スコアを予測し、カテゴリに適応した変換プロセスに従って順序付けをガイドする。

実験結果

リサーチクエスチョン

• RQ1 文書分類データを活用することで、マルチドキュメント要約システムの性能を向上させられるか？
• RQ2 共有分散表現が、文書分類と要約のタスクを効果的に橋渡しできるか？
• RQ3 モデルは文書カテゴリに応じた適切なスタイルの要約を学習して生成できるか？
• RQ4 手動で設計された特徴量を一切使用しないデータ駆動型アプローチが、要約分野で最先端の性能を達成できるか？

主な発見

• TCSumは、手動で設計された特徴量を一切使用せず、DUCの一般的なマルチドキュメント要約ベンチマークで最先端の性能を達成した。
• モデルは、自然災害、伝記、政治などの異なる文書カテゴリ間での要約スタイルの違いを効果的に捉えている。
• カテゴリ固有の変換行列により、各カテゴリに応じた内容の焦点に一致する重要度予測が向上し、要約品質が向上した。
• カテゴリ外のドキュメントに対しても、変換行列は重要なスタイル要因（例：自然災害要約における日付や損失指標）を保持しており、堅牢性を示している。
• エンジニアリング特徴量に強く依存する既存の学習ベースのシステムよりも優れた性能を示しており、文書分類からの転移学習の有効性を裏付けている。