[論文レビュー] GoSum: Extractive Summarization of Long Documents by Reinforcement Learning and Graph Organized discourse state

Junyi Bian, Xiaodi Huang+2 more|arXiv (Cornell University)|Nov 18, 2022

Topic Modeling被引用数 4

ひとこと要約

GoSumは、階層的な話法構造を符号化するため、強化学習と異種グラフニューラルネットワークを統合することで、長大な科学的文書向けの新しい抽出的要約モデルを提案する。文とセクションを話法に配慮したエッジで接続されたノードとしてモデル化することで、GoSumはPubMedおよびarXivで最先端のROUGEスコアを達成し、話法階層が要約品質を顕著に向上させることを示している。

ABSTRACT

Extracting summaries from long documents can be regarded as sentence classification using the structural information of the documents. How to use such structural information to summarize a document is challenging. In this paper, we propose GoSum, a novel graph and reinforcement learning based extractive model for long-paper summarization. In particular, GoSum encodes sentence states in reinforcement learning by building a heterogeneous graph for each input document at different discourse levels. An edge in the graph reflects the discourse hierarchy of a document for restraining the semantic drifts across section boundaries. We evaluate GoSum on two datasets of scientific articles summarization: PubMed and arXiv. The experimental results have demonstrated that GoSum achieve state-of-the-art results compared with strong baselines of both extractive and abstractive models. The ablation studies further validate that the performance of our GoSum benefits from the use of discourse information.

研究の動機と目的

• 従来のモデルがメモリコストと複雑な話法構造の両方で困難を抱える長大な科学的文書における抽出的要約の課題に対処すること。
• グリーディー探索による非最適で非決定的ラベルに依存する抽出モデルの限界を、より良い学習信号を提供する強化学習を活用することで克服すること。
• セクション境界やタイトルなどの階層的話法情報を文の表現に統合し、ドキュメントのセクション間で意味的ずれを低減すること。
• 局所的な文の文脈とグローバルなドキュメント構造を効率的に捉えるグラフベースの手法を開発し、長大な入力に対しても線形スケーラビリティを実現すること。
• 話法に配慮したモデリングが、科学文献データセットにおけるベースラインと比較して、抽出的要約のパフォーマンスを顕著に向上させることを実証すること。

提案手法

• 各文とセクションをノードとし、話法階層を表すエッジを用いて、異種グラフを構築する。
• グラフニューラルネットワーク（GNN）を用いて、局所的な文の特徴、グローバルなドキュメントコンテキスト、抽出履歴を含む文の状態を符号化する。
• 要約を強化学習における逐次的意思決定プロセスとして定式化し、現在の状態に基づいて文の選択をアクションとみなす。
• ROUGEスコアに基づく報酬関数を用いて強化学習でモデルを訓練し、複数のサンプルラベルシーケンスによるデータ拡張を可能にする。
• 段階的学習を適用し、段階的にセクション情報の破損を加えることで、耐性と話法構造の重要性を評価する。
• ポリシーネットワークを用いて文の選択確率を予測し、ゴール要約のROUGEスコアに基づく報酬を用いてポリシーグラデント法により最適化する。

実験結果

リサーチクエスチョン

• RQ1 話法階層のグラフ構造的表現は、長大な科学的文書の抽出的要約を改善できるか？
• RQ2 GNNと強化学習を統合することで、教師ありまたは非グラフベースラインと比較して性能がどのように向上するか？
• RQ3 特にセクションタイトルと階層的構造を含む話法情報は、要約品質にどの程度寄与するか？
• RQ4 文書構造の不正確さや破損（例：欠落または誤ったセクションタイトル）に対して、モデルはどの程度感受性を示すか？
• RQ5 強化学習の訓練中にサンプルラベルシーケンスの数を増やすことで、一般化性能とパフォーマンスが向上するか？

主な発見

• GoSumはPubMedおよびarXivの両データセットで最先端のパフォーマンスを達成し、PubMedではROUGE-1、ROUGE-2、ROUGE-Lがそれぞれ49.83、23.56、45.10であり、arXivでは48.61、20.53、42.80であった。
• セクションタイトルを「section #id」に置き換えた場合、わずかだが測定可能な性能低下が生じた—PubMedではROUGE-1、ROUGE-2、ROUGE-Lがそれぞれ0.20、0.11、0.12低下した—これはセクションタイトルの意味的信号がわずかだが有用であることを示している。
• セクションの属性が破損すると、特に高い破損率で性能が著しく低下し、話法階層がGoSumの成功にとって不可欠であることを確認した。
• アブレーションスタディの結果、モデルの性能はセクションタイトルそのものよりも正確な話法構造に強く依存しており、セクション境界が破壊されると性能低下が顕著に大きくなることが示された。
• 複数のサンプルラベルシーケンス（top-k）を用いた強化学習により性能が顕著に向上した—top-4のサンプリングでROUGE-1が49.64に達し、完全なRLモデルの49.83に非常に近い値となった。
• 報酬機構を削除（すべての報酬を1に設定）した場合、性能がわずかに低下した—これは報酬に基づくフィードバックが、訓練中に高品質な要約を区別するために不可欠であることを確認している。