[論文レビュー] Neural Extractive Text Summarization with Syntactic Compression

Jiacheng Xu, Greg Durrett|arXiv (Cornell University)|Feb 3, 2019

Topic Modeling参考文献 44被引用数 27

ひとこと要約

本稿では、構文的句構造解析を用いて文の選択と文法的圧縮を同時に学習するニューラル抽出的要約モデルを提案する。オラクル抽出的・圧縮要約で訓練することで、ROUGEスコアがSOTAを達成し、CNN/Daily Mailで抽出的ベースラインより2.4のROUGE-F1向上を達成。これは、より自然な文法的要約と制御可能な圧縮の向上を示している。

ABSTRACT

Recent neural network approaches to summarization are largely either selection-based extraction or generation-based abstraction. In this work, we present a neural model for single-document summarization based on joint extraction and syntactic compression. Our model chooses sentences from the document, identifies possible compressions based on constituency parses, and scores those compressions with a neural model to produce the final summary. For learning, we construct oracle extractive-compressive summaries, then learn both of our components jointly with this supervision. Experimental results on the CNN/Daily Mail and New York Times datasets show that our model achieves strong performance (comparable to state-of-the-art systems) as evaluated by ROUGE. Moreover, our approach outperforms an off-the-shelf compression module, and human and manual evaluation shows that our model's output generally remains grammatical.

研究の動機と目的

• 要約品質と解釈可能性を向上させるために、抽出的要約と構文駆動の文の圧縮を統合するニューラルモデルの開発。
• ビームサーチとヒューリスティックな最適化を用いて高品質なオラクル抽出的・圧縮要約を構築することで、共同抽出的・圧縮モデルの学習課題に対処。
• 調整可能なしきい値を用いて圧縮を制御可能にし、ROUGE性能を損なわずに要約長を柔軟に調整可能にする。
• 構文的句構造解析から導かれる離散的・構文的圧縮オプションを用いることで、圧縮要約の文法的自然さと流暢さを向上。
• 抽出と圧縮の共同学習が抽出的ベースラインや既存の圧縮モジュールを上回ることを実証。

提案手法

• 文書の各文をBiLSTMで符号化し、文書レベルの表現を生成。その後、ポインタネットに類似した注意機構付きLSTMデコーダーを用いて文の選択を実行。
• 選択された各文に対して、構文的句構造解析に基づき離散的な圧縮オプションを生成。同定詞句、関係節、副詞句、括弧内語を除去するルールを適用し、文法的整合性を維持。
• 文脈、文の表現、デコーダー状態を考慮したニューラルスコアリング機構により、各圧縮オプションを評価し、最適な圧縮版を選択。
• ビームサーチとヒューリスティックな最適化により得られるオラクル要約を用いて、抽出と圧縮の両方を同時に最適化する学習目的を定式化。
• 重複を低減するため、圧縮処理にDEDUPLICATION機構を導入。特に時系列的および場所的補足語に注目し、冗長性を低減し、ノイズを削減。
• 抽出的および圧縮的監視を統合した共同目的関数により、エンドツーエンドで学習。これにより、何時・どのように圧縮を行うかを学習可能に。

実験結果

リサーチクエスチョン

• RQ1 抽出的・圧縮的コンponentの共同学習は、抽出的モデルに比べて要約性能を向上させるか？
• RQ2 離散的オプションを用いた構文ベースの圧縮は、エンドツーエンドのニューラル圧縮に比べ、より文法的で自然な要約を生成するか？
• RQ3 モデルの性能は、さまざまな圧縮しきい値（0.3～0.55）に対してどれほど頑健か。また、要約長を制御可能に生成できるか？
• RQ4 構文的句構造解析から導かれた圧縮ルールは、既存の圧縮モジュールに比べ、要約品質をどの程度向上させるか？
• RQ5 人間の評価者による評価では、モデルの圧縮出力の文法的自然さと流暢さはどの程度評価されるか？

主な発見

• 本モデルは、CNN/Daily MailおよびNew York TimesのデータセットでSOTA性能を達成。抽出的ベースラインに比べ2.4のROUGE-F1ポイント向上。
• 圧縮しきい値（0.3～0.55）の広い範囲で安定した性能を維持しており、要約長に対する頑健性と制御性を示している。
• 人間評価では、モデル出力は一般的に文法的に適切であり、誤りの多くはパーサーの制限に起因するもので、モデルの圧縮意思決定によるものではない。
• 既存の圧縮モジュールを上回る性能を示しており、抽出的監視を用いた共同学習の有効性を実証。
• 圧縮は主にPP（26%）およびJJ（34%）構成要素に適用され、高い正確性（JJ：72%、PRN：80%）を示しており、ルールベースの圧縮選択が効果的であることを示している。
• DEDUPLICATIONにより、選択された圧縮の30%が削除され（特にPPが顕著）、冗長性が低減され、効率が向上。ROUGEスコアに悪影響を与えることなく。