[論文レビュー] Reader-Aware Multi-Document Summarization via Sparse Coding

Piji Li, Lidong Bing+3 more|arXiv (Cornell University)|Apr 28, 2015

Topic Modeling参考文献 25被引用数 39

ひとこと要約

本稿では、スパースコーディングを用いてニュース報道と読者コメントを統合的にモデル化することで要約の重要度と言語的質を向上させる、読者意識型マルチドキュメント要約（RA-MDS）フレームワークを提案する。コメント分析による読者関心の統合と、エンティティリライトを伴う名詞句／動詞句の最適化により、DUCおよびカスタムデータセットにおいて最先端のROUGEスコアを達成し、教師なしベースラインを顕著に上回った。

ABSTRACT

We propose a new MDS paradigm called reader-aware multi-document summarization (RA-MDS). Specifically, a set of reader comments associated with the news reports are also collected. The generated summaries from the reports for the event should be salient according to not only the reports but also the reader comments. To tackle this RA-MDS problem, we propose a sparse-coding-based method that is able to calculate the salience of the text units by jointly considering news reports and reader comments. Another reader-aware characteristic of our framework is to improve linguistic quality via entity rewriting. The rewriting consideration is jointly assessed together with other summarization requirements under a unified optimization model. To support the generation of compressive summaries via optimization, we explore a finer syntactic unit, namely, noun/verb phrase. In this work, we also generate a data set for conducting RA-MDS. Extensive experiments on this data set and some classical data sets demonstrate the effectiveness of our proposed approach.

研究の動機と目的

• 読者コメントを統合することでユーザーの関心を反映させることで、マルチドキュメント要約におけるギャップを埋める。
• ニュース報道と読者コメントを統合的にモデル化することで、重要度計算の向上を図り、要約の質を改善する。
• 要約の圧縮とエンティティリライトを統合した包括的な最適化フレームワークを構築し、より自然な言語的整合性を実現する。
• 今後の研究を支援するため、読者意識型MDS用に新しいアノテート済みデータセットを構築する。

提案手法

• スパースコーディングを用い、報道記事と読者コメントの両方の再構成誤差を最小化することで、両源から顕著なテキスト単位を同時に学習する。
• 名詞句／動詞句レベルでテキストをモデル化することで、より細粒度で圧縮可能な要約が可能になる。
• 重要度、圧縮、エンティティリライトを統合した包括的な最適化目的関数を導入し、言語的質の向上を図る。
• 最適化フレームワーク内でのエンティティリライトを適用し、生成要約における曖昧さを低減し、整合性を向上させる。
• 読者コメントをユーザー関心の源とみなして、教師あり学習を必要とせずに、その意味的コンテンツを重要度計算に統合する。
• 再構成に基づく損失関数を採用し、標準的なスパースコーディングにコメントの再構成項を追加することで、報道とコメントの寄与度をバランスさせる。

実験結果

リサーチクエスチョン

• RQ1 読者コメントを統合することで、マルチドキュメント要約の重要度と関連性が顕著に向上するか？
• RQ2 スパースコーディングをどのように変更すれば、ニュース報道とノイズの多いユーザー生成コメントを要約の目的で統合的にモデル化できるか？
• RQ3 包括的な最適化フレームワーク内にエンティティリライトを統合することで、要約の言語的質がどの程度向上するか？
• RQ4 圧縮、重要度、リライトを統合した包括的フレームワークは、既存の教師なしMDS手法を上回る性能を発揮できるか？
• RQ5 提案されたRA-MDSフレームワークは、標準ベンチマークおよび現実の出来事に基づく事例研究において、どの程度の性能を示すか？

主な発見

• DUC 2006ベンチマークでは、本手法がROUGE-1 0.391、ROUGE-2 0.081、ROUGE-SU4 0.136を達成し、DSDR、MDS-Sparseなど他の教師なしベースラインを顕著に上回った。
• DUC 2007では、ROUGE-1 0.403、ROUGE-2 0.092、ROUGE-SU4 0.146を達成し、最先端の教師なし手法よりも一貫した優位性を示した。
• Mt. Goxビットコイン交換所の出来事に関する事例研究では、コメントを統合したモデルがROUGE-1 0.414、ROUGE-2 0.124、ROUGE-SU4 0.164を達成し、コメントを含まないバージョンを上回った。
• コメントの統合により、74万4千ビットコインの損失や取引の匿名性といった、コメント統合なしの要約では欠落していた読者の関心事項をモデルが捉えることができた。
• エンティティリライトにより、指標の曖昧さが低減され、例えば『Flappy Birdの開発者』に関する要約で『Dong』を『Nguyen』に置き換えるなど、明確な共参照チェーンが形成された。
• フレームワークはコメントのノイズや多様性に対しても頑健であり、コメントの内容が多様で非構造的であっても、高い性能を維持した。