[論文レビュー] ClueGraphSum: Let Key Clues Guide the Cross-Lingual Abstractive Summarization

Shuyu Jiang, Dengbiao Tu+4 more|arXiv (Cornell University)|Mar 5, 2022

Topic Modeling被引用数 5

ひとこと要約

ClueGraphSumは、キーワードや固有表現といったキーポイントを用いて文のグラフを構築し、要約をガイドする、エンドツーエンドのクロスリンガル要約フレームワークを提案する。グラフアテンション機構を用いて記事構造とキーポイントを統合的に符号化することで、最先端の性能を達成し、ROUGE-1が8.55（En2Zh）向上、MoverScoreが2.13（Zh2En）向上し、長文入力に対して優れた耐性を示す。

ABSTRACT

Cross-Lingual Summarization (CLS) is the task to generate a summary in one language for an article in a different language. Previous studies on CLS mainly take pipeline methods or train the end-to-end model using the translated parallel data. However, the quality of generated cross-lingual summaries needs more further efforts to improve, and the model performance has never been evaluated on the hand-written CLS dataset. Therefore, we first propose a clue-guided cross-lingual abstractive summarization method to improve the quality of cross-lingual summaries, and then construct a novel hand-written CLS dataset for evaluation. Specifically, we extract keywords, named entities, etc. of the input article as key clues for summarization and then design a clue-guided algorithm to transform an article into a graph with less noisy sentences. One Graph encoder is built to learn sentence semantics and article structures and one Clue encoder is built to encode and translate key clues, ensuring the information of important parts are reserved in the generated summary. These two encoders are connected by one decoder to directly learn cross-lingual semantics. Experimental results show that our method has stronger robustness for longer inputs and substantially improves the performance over the strong baseline, achieving an improvement of 8.55 ROUGE-1 (English-to-Chinese summarization) and 2.13 MoverScore (Chinese-to-English summarization) scores over the existing SOTA.

研究の動機と目的

• 長文におけるノイズの多いコンテンツやアテンションの誤った方向付けによる低品質なクロスリンガル要約の課題に対処すること。
• キーポイントと記事構造を活用してクロスリンガル意味理解を向上させる統合的エンドツーエンドモデルの開発。
• 既存のデータセットが主に翻訳されたものであり、人的に検証されていなかったため、信頼できる評価が可能な手書きのクロスリンガル要約データセットを新規に構築すること。
• キーポイント誘導のグラフ構築法により、注目を重要な文に集中させることで、入力長の増加に対するモデルの耐性を高めること。
• キーポイントと構造的グラフ符号化を統合することで、より正確で、簡潔かつスムーズなクロスリンガル要約が生成されることを示すこと。

提案手法

• TextRankを用いて、ソース記事からキーポイント（例：キーワード、固有表現）を抽出し、顕著なコンテンツを特定する。
• 文をノードとし、共通するキーポイントを共有する文同士を接続することで、記事のグラフを構築し、ノイズ低減のためのプルーニングを実施する。
• キーポイントの頻度と中心性に基づいてノードの重みを定義し、グラフ内での重要な文を優先順位付けする。
• 構築されたグラフ内の文の意味と構造的依存関係を学習するために、グラフエンコーダーを用いる。
• キーポイントをエンコードし、ターゲット言語に翻訳することで、重要な情報を保持するためのキーポイントエンコーダーを用いる。
• グラフ表現とキーポイント表現を共有デコーダーを介して統合し、エンドツーエンドで抽象的クロスリンガル要約を生成する。

実験結果

リサーチクエスチョン

• RQ1 固有表現やキーワードといったキーポイントが、クロスリンガル要約における顕著なコンテンツに注目させ、要約品質を向上させることができるか？
• RQ2 共通するキーポイントに基づいて文のグラフを構築することで、標準的なシーケンスモデルと比較して、長文入力に対するモデルの耐性が向上するか？
• RQ3 手書きデータセットと翻訳済みデータセットの両方で評価した場合、CLSモデルの性能にどのような差が生じるか？
• RQ4 キーポイントに配慮した符号化とグラフ構造を統合することで、強力なベースラインを上回るROUGEおよびMoverScoreの向上がどの程度達成できるか？
• RQ5 単語対単語の対応がない状況でも、モデルは参照要約と意味的に整合的で、かつスムーズな要約を生成できるか？

主な発見

• ClueGraphSumは、英語から中国語へのクロスリンガル要約において、最も強力なベースライン比でROUGE-1が+8.55向上した。
• 中国語から英語への要約において、MoverScoreが+2.13向上し、参照要約との意味的整合性が向上していることを示している。
• ベースラインと比較して、入力長が延長されても著しく性能低下が遅れるため、優れた耐性を示している。
• AGCアルゴリズムは、テストケースの90％で3つの最重要文を正しく特定し、生成された要約の主な情報源となっている。
• 人的評価では、ClueGraphSumの要約は、パイプライン型およびエンドツーエンド型のすべてのベースラインと比較して、より簡潔で情報量が多く、スムーズであると確認された。
• 特に翻訳パイプラインを用いたベースラインモデルは、繰り返しや「翻訳的」な要約を生成しがちであるが、ClueGraphSumは冗長性を回避し、スムーズさを維持している。