[論文レビュー] Generative Adversarial Network for Abstractive Text Summarization

Linqing Liu, Yao Lu+4 more|arXiv (Cornell University)|Nov 26, 2017

Topic Modeling被引用数 32

ひとこと要約

本稿では、強化学習を用いた生成器と、人間が作成した要約と機械生成要約を区別する識別器を併用して共同で訓練するGANベースの枠組みを提案する。敵対的訓練により要約の品質が向上し、CNN/Daily Mailデータセットにおいて最先端のROUGEスコアを達成するとともに、読みやすさと多様性が著しく向上した。

ABSTRACT

In this paper, we propose an adversarial process for abstractive text summarization, in which we simultaneously train a generative model G and a discriminative model D. In particular, we build the generator G as an agent of reinforcement learning, which takes the raw text as input and predicts the abstractive summarization. We also build a discriminator which attempts to distinguish the generated summary from the ground truth summary. Extensive experiments demonstrate that our model achieves competitive ROUGE scores with the state-of-the-art methods on CNN/Daily Mail dataset. Qualitatively, we show that our model is able to generate more abstractive, readable and diverse summaries.

研究の動機と目的

• 最大尤度学習に代わる強化学習を用いることで、抽象的要約生成における露出バイアスと微分不能な評価指標の問題を解決すること。
• 識別モデルによる敵対的訓練により、生成された要約の文法的正確性、読みやすさ、事実整合性を向上させること。
• seq2seqモデルに共通する一般的で繰り返しの多い出力を軽減するために、低品質な生成をペナルティ化する識別器を活用すること。
• 先行手法と比較して競争力のあるROUGEスコアを達成するとともに、より多様で抽象的である要約を生成すること。
• 識別器を方策勾配最適化における報酬信号として用いることで、学習の目的と評価指標のギャップを埋めること。

提案手法

• 生成器は、入力テキストから要約を生成するための双方向LSTMエンコーダと、ポインタジェネレータネットワークを備えたアテンションベースのLSTMデコーダを用いる。
• 識別器は、本物のヒューマン要約と生成された要約を区別するためのCNNベースのテキスト分類器として実装される。
• 生成器は、方策勾配（識別器からの報酬を含む）と最大尤度推定を組み合わせたハイブリッド損失関数を用いて学習され、スケーリング係数βによってバランスされる。
• 識別器は、標準的なGAN損失を用いて更新される：本物の要約の対数尤度を最小化し、偽物の要約の対数尤度を最小化する。
• 生成器の方策勾配更新では、識別器の出力を報酬信号として用いる：∇θJpg = 1/T ∑t=1T ED[Gθ] [RD(Y1:T) ∇θ log p(yt|Y1:t−1,X)]。
• モデルは交互に学習される：まず生成器と識別器を事前学習し、その後敵対的アップデートを用いて共同最適化を行う。

実験結果

リサーチクエスチョン

• RQ1 識別モデルによる敵対的訓練は、抽象的要約の品質と多様性を向上させることができるか？
• RQ2 方策勾配学習における報酬信号として識別器を用いることで、露出バイアスが軽減され、要約の整合性が向上するか？
• RQ3 提案された枠組みは、最大尤度で学習されたモデルと比較して、より読みやすく、一般的でない要約を生成できるか？
• RQ4 ROUGEスコアおよび要約品質の人的評価において、本モデルは最先端の手法と比較してどうなるか？
• RQ5 敵対的プロセスは、生成された要約の抽象的性質をどの程度向上させるか？

主な発見

• 提案モデルは、CNN/Daily Mailデータセットにおいて、ROUGE-1、ROUGE-2、ROUGE-Lスコアがそれぞれ39.92、17.65、36.71を達成し、すべてのベースラインを上回った。
• 敵対的学習後、事前学習済み生成器ベースラインと比較して、ROUGE-1とROUGE-2はそれぞれ1.10点および0.84点向上した。
• 人的評価では、平均読みやすさスコアが5段階中4.01を記録し、次に優れた手法（3.81）を著しく上回り、より滑らかで整合性のある要約であることが示された。
• 定性的分析により、モデルが元のテキストに存在しない新しいフレーズを多く含む多様で抽象的な要約を生成することが確認された。
• 方策勾配と識別器からのフィードバックを組み合わせることで、露出バイアスが効果的に軽減され、一般的なフレーズへの依存が減少した。
• 識別器が本物の要約と生成された要約を区別する能力が反復的に向上し、結果として生成器からの出力が次第に現実的で高品質なものとなった。