[論文レビュー] Multi-document abstractive summarization using ILP based multi-sentence compression

Siddhartha Banerjee, Prasenjit Mitra+1 more|arXiv (Cornell University)|Sep 22, 2016

Topic Modeling参考文献 20被引用数 129

ひとこと要約

著者らは、最も重要な文書を中心に句をクラスタリングし、クラスタごとに単語グラフを構築してK本の最短経路を生成し、情報量と語学的品質を最適化するILPを用いて経路を選択する抽象的マルチドキュメント要約器（ILPSumm）を提案し、DUCデータセットでROUGE性能が高い。

ABSTRACT

Abstractive summarization is an ideal form of summarization since it can synthesize information from multiple documents to create concise informative summaries. In this work, we aim at developing an abstractive summarizer. First, our proposed approach identifies the most important document in the multi-document set. The sentences in the most important document are aligned to sentences in other documents to generate clusters of similar sentences. Second, we generate K-shortest paths from the sentences in each cluster using a word-graph structure. Finally, we select sentences from the set of shortest paths generated from all the clusters employing a novel integer linear programming (ILP) model with the objective of maximizing information content and readability of the final summary. Our ILP model represents the shortest paths as binary variables and considers the length of the path, information score and linguistic quality score in the objective function. Experimental results on the DUC 2004 and 2005 multi-document summarization datasets show that our proposed approach outperforms all the baselines and state-of-the-art extractive summarizers as measured by the ROUGE scores. Our method also outperforms a recent abstractive summarization technique. In manual evaluation, our approach also achieves promising results on informativeness and readability.

研究の動機と目的

• 関連文書のセットで最も情報量の多い文書を特定する。
• 選択された文書の周りに文をクラスター化して、共有情報を捉える。
• 各クラスタから、単語グラフを用いて要約的で情報量が多く読みやすい文を生成する。
• 冗長性を抑えつつ情報量と語学的品質の積を最大化し、パスの長さで割るILPを解いて最終的な文のセットを選択する。
• ベースラインや既存の抽象的手法と比較して、ROUGEスコアと人間の可読性が優れていることを示す。

提案手法

• LexRank、Pairwise Cosine Similarity、または Overall Document Collection Similarity を用いて最も重要な文書を選ぶために文書重要度を計算する。
• 重要な文書の文に類似するコサイン類似度に基づいて、他の文書の文をクラスタへ割り当てる。
• 各クラスタから、文を整列させて単語グラフを構築し、K本の最短経路を抽出する。
• 各経路を Informativeness via TextRank と Linguistic Quality via a 3-gram language model で評価する。
• 情報量と語学的品質の積を、経路長で割った値の乗算を最大化するILPを解く。

実験結果

リサーチクエスチョン

• RQ1 複数文書にまたがる類似文のクラスタから抽象的要約を効果的に生成できるか。
• RQ2 短く情報豊富で語学的に整った経路をILP駆動で選択することで、抽出型や既存の抽象的手法より優れた要約を生み出せるか。
• RQ3 中心的な（最も重要な）文書を特定することが、マルチドキュメントのクラスタリングと要約品質にどのような影響を与えるか。
• RQ4 異なる文書重要度測定とクラスタ順序戦略が最終的なROUGE性能に与える影響は何か。

主な発見

• ILPSumm アプローチは、DUC 2004および2005のROUGE指標でベースラインと最新の抽出的システムを上回る。
• ILPSummはROUGE-2、ROUGE-L、ROUGE-SU4でも最近の抽象手法（MSC）を上回る。
• 手動評価は、ILPSummがMSCおよびDPPベースラインと比較して情報量が高く、語学的品質も競争力があることを示す。
• DocSetSimを重要度測度としてMOクラスタリングと組み合わせた場合、検討した構成の中で最もROUGE結果が良かった。
• 言語モデルベースの語学品質スコアと情報量スコアを組み合わせると、より読みやすく情報量の多い要約になる。