[論文レビュー] End-to-End Segmentation-based News Summarization

Yang Liu, Chenguang Zhu+1 more|arXiv (Cornell University)|Oct 15, 2021

Topic Modeling被引用数 6

ひとこと要約

本稿では、ニュース記事をテーマ別セクションに分割し、各セクションに対して要約的な見出しを生成する、画期的なタスク「セグメンテーションベースのニュース要約」を紹介する。著者らは、セグメンテーションに配慮したアテンションを用いることで、セグメンテーションと要約の両方の性能を向上させる、エンドツーエンドの共同モデルSegUniLMを提案。27,000件のアノテート済み記事を含む新しいSegNewsデータセットにおいて、強力なベースラインを上回る性能を発揮した。

ABSTRACT

In this paper, we bring a new way of digesting news content by introducing the task of segmenting a news article into multiple sections and generating the corresponding summary to each section. We make two contributions towards this new task. First, we create and make available a dataset, SegNews, consisting of 27k news articles with sections and aligned heading-style section summaries. Second, we propose a novel segmentation-based language generation model adapted from pre-trained language models that can jointly segment a document and produce the summary for each section. Experimental results on SegNews demonstrate that our model can outperform several state-of-the-art sequence-to-sequence generation models for this new task.

研究の動機と目的

• 従来の単一要約型ニュース要約の限界を是正するため、長編記事のナビゲーションや詳細な調査をサポートできない点に起因する。
• 記事をテーマ別セクションに分割し、各セクションに特化した要約を生成する、新たなタスク「セグメンテーションベースのニュース要約」を提案する。
• 27,000件のニュース記事を含み、セクション境界とそれに該当する見出し形式の要約がアノテートされた、大規模なベンチマークデータセットSegNewsを構築・公開する。
• セグメンテーションと要約の両方を同時に実行する共同学習フレームワークを設計し、共有表現を通じて両タスクの性能を向上させる。

提案手法

• 提案されたSegUniLMモデルは、事前学習済み言語モデル（例：BART、GPT、UniLM）を非侵襲的に拡張したもので、セグメンテーションに配慮したアテンション機構を統合している。
• セグメンテーションに配慮したアテンション機構により、要約生成時にセクション境界に注目できるようになり、文脈認識が向上する。
• 2つの目的を同時に最適化する：ドキュメントのセグメンテーション（段落レベルのセクション境界の特定）と要約生成（見出し形式の要約生成）。
• 両タスクに共通のエンコーダーを用いることで、セグメンテーションと要約の間での知識の共有が可能になる。
• 要約用の交差エントロピー損失と、境界検出を改善するセグメンテーションに配慮した対照的損失を組み合わせたマルチタスク損失関数を用いて学習を行う。
• さまざまな事前学習モデルと互換性があり、柔軟な統合と高い性能を実現できる。

実験結果

リサーチクエスチョン

• RQ1 パイプライン型や独立型のアプローチと比較して、セグメンテーションと要約の共同学習が、両タスクの性能向上に寄与するか？
• RQ2 セグメンテーションに配慮したアテンション機構は、要約の質とセグメンテーションの正確性を向上させるのにどの程度有効か？
• RQ3 提案されたSegUniLMモデルは、新しいSegNewsベンチマークにおいて、強力なベースラインをどの程度上回るか？
• RQ4 共同学習フレームワークは、長編ニュース記事における認知的負荷を軽減し、ナビゲーション性を向上させるか？

主な発見

• 自動評価および人的評価の両方の指標において、パイプラインベースラインや強力なseq2seqモデルをSegUniLMが上回った。
• 人的評価では、SegUniLMの平均要約品質スコアが2.17であり、パイプライン型UniLMの1.93よりも顕著に高く、要約の関連性と一貫性が向上していることが示された。
• アブレーションスタディにより、9つのセグメンテーションに配慮したアテンションヘッドを使用した場合にROUGEスコアが最良となり、この数を増減させると性能が低下することが確認された。
• セグメンテーション損失やセグメンテーションレイヤーを削除すると、ROUGEスコアが急激に低下し、共同学習の利点が裏付けられた。
• セグメンテーションタスクにおいて、SegUniLMは最低のワードディスプレースメント（WD）とペアワイズF1（PK）スコアを達成し、優れたセクション境界検出性能を示した。
• モデルは強力な汎化性能を示しており、BART、GPT、UniLMなど、さまざまな事前学習モデルにアーキテクチャの変更なしに容易に適応可能である。