[論文レビュー] Neural Extractive Summarization with Side Information

Shashi Narayan, Nikos Papasarantopoulos+2 more|arXiv (Cornell University)|Apr 14, 2017

Topic Modeling参考文献 33被引用数 68

ひとこと要約

この論文は、SideNetというサイト情報（タイトルと画像キャプション）を階層エンコーダと側信息アテンション付き抽出機で活用し、CNNデータの単一文書要約のROUGEを改善するニューラル抽出要約モデルを提案する。

ABSTRACT

Most extractive summarization methods focus on the main body of the document from which sentences need to be extracted. However, the gist of the document may lie in side information, such as the title and image captions which are often available for newswire articles. We propose to explore side information in the context of single-document extractive summarization. We develop a framework for single-document summarization composed of a hierarchical document encoder and an attention-based extractor with attention over side information. We evaluate our model on a large scale news dataset. We show that extractive summarization with side information consistently outperforms its counterpart that does not use any side information, in terms of both informativeness and fluency.

研究の動機と目的

• ニュース記事で一般的に利用可能なサイド情報を活用して抽出型要約の改善を動機づける。
• サイド情報を文抽出に統合するニューラルアーキテクチャを開発する。
• 提案モデルを大規模なCNNベースのデータセットで評価し、ベースラインと比較する。
• 自動評価と人間評価を通じて、サイド情報が情報量と流暢さを向上させることを示す。
• 異なるサイド情報タイプ（タイトル、キャプション、最初の文）の相対的寄与を調査する。

提案手法

• CNNベースの文エンコーダとRNN文書エンコーダを用いた階層型エンコーダを提案する。
• サイド情報の注意を用いたLSTMを利用した文抽出機を導入する。
• サイド情報をキャプション/タイトルの埋め込みの列として表現し、文にラベルを付ける際にそれらを参照する。
• 文の関連性ラベルの尤度を最大化する教師あり目的で訓練する。
• ROUGEベースの評価と人間の判断を用いて情報量と流暢さを評価する。

実験結果

リサーチクエスチョン

• RQ1 サイド情報（タイトルと画像キャプション）を組み込むことで、サイド情報なしモデルより抽出型要約の質が向上するか？
• RQ2 どのタイプのサイド情報がパフォーマンスに最も寄与するか（タイトル対キャプション対最初の文対組み合わせ）？
• RQ3 SideNetはCNNベースの単一文書要約において、LeadベースラインやPointerNetなどの強力なベースラインと比較してどうか？
• RQ4 自動ROUGEの改善は、人間の情報量と流暢さの判断と一致するか？

主な発見

Model	R1	R2	R3	R4	RL	Avg
Lead	49.2	18.9	9.8	6.0	43.8	25.5
PointerNet	53.3	19.7	10.4	6.4	47.2	27.4
SideNet+title	55.0	21.6	11.7	7.5	48.9	28.9
SideNet+caption	55.3	21.3	11.4	7.2	49.0	28.8
SideNet+fs	54.8	21.1	11.3	7.2	48.6	28.6
title+caption	55.4	21.8	11.8	7.5	49.2	29.2
title+fs	55.1	21.6	11.6	7.4	48.9	28.9
caption+fs	55.3	21.5	11.5	7.3	49.0	28.9
title+caption+fs	55.4	21.5	11.6	7.4	49.1	29.0

• サイド情報は、一貫してサイド情報なしモデルよりROUGEスコアを改善する。
• 最良のアブレーションはタイトルと画像キャプションの両方を使用し、単一ソースのサイド情報よりも優れている。
• テストデータで、SideNetはLeadおよびPointerNetよりもROUGE-1、ROUGE-2、ROUGE-Lのスコアを全長要約で上回る。
• 固定長要約では、非常に短いバイト制限ではLead/PointerNetに劣る場合があるが、長い出力では優れている。
• 人間の評価では、SideNetは情報量と流暢さの点で人間に最も近いと評価されることが多く、非サイド情報ベースラインよりも優れている。