[論文レビュー] Enhancing Scientific Papers Summarization with Citation Graph

Chenxin An, Ming Zhong+4 more|arXiv (Cornell University)|Apr 7, 2021

Topic Modeling参考文献 32被引用数 8

ひとこと要約

本稿では、出典グラフを活用する要因として、バイリスティック・エンコーダーとGATベースのグラフエンコーダーを用いて、元の論文の内容とその参照論文の情報を統合するCgSumというモデルを提案する。シンプルなアーキテクチャ（BiLSTM + GAT）でありながら、ROUGEスコアで強力なBERTベースのモデルを上回り、出典グラフが分野固有の知識や関連研究コミュニティのライティングパターンを活用できるようにすることで、要約品質が著しく向上することを示している。

ABSTRACT

Previous work for text summarization in scientific domain mainly focused on the content of the input document, but seldom considering its citation network. However, scientific papers are full of uncommon domain-specific terms, making it almost impossible for the model to understand its true meaning without the help of the relevant research community. In this paper, we redefine the task of scientific papers summarization by utilizing their citation graph and propose a citation graph-based summarization model CGSum which can incorporate the information of both the source paper and its references. In addition, we construct a novel scientific papers summarization dataset Semantic Scholar Network (SSN) which contains 141K research papers in different domains and 661K citation relationships. The entire dataset constitutes a large connected citation graph. Extensive experiments show that our model can achieve competitive performance when compared with the pretrained models even with a simple architecture. The results also indicates the citation graph is crucial to better understand the content of papers and generate high-quality summaries.

研究の動機と目的

• 科学論文の要約を高品質に生成する課題に取り組むこと。これは、分野固有の用語や複雑な概念が多く含まれるためである。
• 既存の要約モデルが出典ネットワークを無視するという限界を克服すること。出典ネットワークには文脈的・定義的情報を含む貴重な情報が存在する。
• 141K件の論文と661K件の出典関係を含む大規模かつ接続された出典グラフデータセット（SSN）を構築すること。これは科学的要約研究のためのものである。
• 元の論文の内容とその出典グラフ近傍を両方活用する、新しいインダクティブおよびトランスダクティブな要約設定を提案すること。
• 出典グラフ情報が科学的分野におけるモデルの理解力と要約品質の向上に不可欠であることを実証すること。

提案手法

• CgSumモデルは、元の論文のテキストを処理するためのBiLSTMエンコーダーと、出典サブグラフからの構造的・意味的情報を捉えるGATベースのグラフエンコーダーを用いる。
• 元の論文の周囲の出典グラフからサブグラフをサンプリングし、その研究コミュニティ（元の論文とその引用論文を含む）を形成する。
• モデルは、参照論文の要約からキーワードやフレーズを注目・統合するのを支援する、新しいROUGEクレジットメカニズムを採用する。
• デコーダーは、元のテキストエンコーダーとグラフエンコーダーの特徴を統合して、最終的な抽象的要約を生成する。
• モデルはインダクティブおよびトランスダクティブの両設定で訓練され、後者は訓練中にすべてのテストノードへのアクセスを許可することで、完全な出典グラフの文脈を模倣する。
• 長文の科学論文に対応するため、BERTベースのベースラインに位置符号化拡張を適用し、性能を向上させた。

実験結果

リサーチクエスチョン

• RQ1 出典グラフ情報を統合することで、元の論文の内容に依存するのみの要約品質を向上させることができるか？
• RQ2 出典グラフ次数（つまり、引用論文の数）が異なる元の論文に対して、モデルの性能はどのように変化するか？
• RQ3 研究コミュニティ内の関連論文間で共有される用語やライティングパターンは、どの程度要約品質を向上させるか？
• RQ4 出典グラフ情報を活用する場合、シンプルなモデルアーキテクチャ（例：BiLSTM + GAT）は大規模な事前学習トランスフォーマーモデルと競合可能か？
• RQ5 提案されたROUGEクレジットメカニズムは、参照論文の関連コンテンツを活用するのをモデルが効果的に支援できるか？

主な発見

• CgSumは、入力シーケンスが短く（500 vs 640）、エンコーダーも単純（1層BiLSTM + 2層GAT vs 12層トランスフォーマー）であるにもかかわらず、BERTベースのモデル、特にBertSumAbs（mp=640）を上回る性能を示した。
• トランスダクティブ設定では、BERTに対して1.53のROUGE-1スコア向上、PTGen + Covに対しては3.99のROUGE-1スコア向上を達成し、完全な出典グラフ文脈が利用可能になると顕著な向上が見られた。
• インダクティブ設定でも、BERTに対して0.63のROUGE-1スコア向上、PTGen + Covに対しては1.52のROUGE-1スコア向上を達成し、未知のグラフに対しても高いロバスト性を示した。
• アブレーションスタディの結果、近隣抽出とROUGEクレジットメカニズムが最も大きな性能向上をもたらした。特にROUGEクレジットはROUGE-Lを0.73ポイント向上させた。
• 出典グラフ次数が高くなるほど性能が向上し、特にトランスダクティブ設定（平均次数d_avg = 4.7）では、インダクティブ設定（d_avg = 2.3）よりも顕著な向上が確認された。これは、より豊富な出典ネットワークが要約品質を向上させることを裏付けた。
• GNNエンコーダーを削除すると、PTGen + Covと同等の性能に低下し、グラフエンコーディングがコミュニティレベルの文脈を捉える上で極めて重要な役割を果たしていることが裏付けられた。