[论文解读] ClueGraphSum: Let Key Clues Guide the Cross-Lingual Abstractive Summarization

Shuyu Jiang, Dengbiao Tu+4 more|arXiv (Cornell University)|Mar 5, 2022

Topic Modeling被引用 5

一句话总结

ClueGraphSum 提出了一种新颖的端到端跨语言摘要框架，利用关键线索（如关键词和命名实体）构建句子图并引导摘要生成。通过图注意力机制联合编码文章结构与线索信息，该方法在性能上达到当前最先进水平，在英文到中文摘要任务中 ROUGE-1 提升 8.55，在中文到英文任务中 MoverScore 提升 2.13，且对长输入长度具有更优的鲁棒性。

ABSTRACT

Cross-Lingual Summarization (CLS) is the task to generate a summary in one language for an article in a different language. Previous studies on CLS mainly take pipeline methods or train the end-to-end model using the translated parallel data. However, the quality of generated cross-lingual summaries needs more further efforts to improve, and the model performance has never been evaluated on the hand-written CLS dataset. Therefore, we first propose a clue-guided cross-lingual abstractive summarization method to improve the quality of cross-lingual summaries, and then construct a novel hand-written CLS dataset for evaluation. Specifically, we extract keywords, named entities, etc. of the input article as key clues for summarization and then design a clue-guided algorithm to transform an article into a graph with less noisy sentences. One Graph encoder is built to learn sentence semantics and article structures and one Clue encoder is built to encode and translate key clues, ensuring the information of important parts are reserved in the generated summary. These two encoders are connected by one decoder to directly learn cross-lingual semantics. Experimental results show that our method has stronger robustness for longer inputs and substantially improves the performance over the strong baseline, achieving an improvement of 8.55 ROUGE-1 (English-to-Chinese summarization) and 2.13 MoverScore (Chinese-to-English summarization) scores over the existing SOTA.

研究动机与目标

• 为解决长文本中因噪声内容和注意力错位导致的低质量跨语言摘要问题。
• 开发一种统一的端到端模型，利用关键线索与文章结构提升跨语言语义理解能力。
• 构建一个全新的手工撰写跨语言摘要数据集，以实现可靠评估，因为先前的数据集多为翻译生成且未经人工验证。
• 通过基于线索引导的图结构构建方法，聚焦关键句子，提升模型对输入长度增加的鲁棒性。
• 证明整合关键线索与结构图编码可生成更准确、简洁且流畅的跨语言摘要。

提出的方法

• 使用 TextRank 从源文章中提取关键线索（如关键词、命名实体），以识别重要内容。
• 构建文章图，其中句子作为节点，若共享共同的关键线索则相互连接，通过剪枝减少噪声。
• 基于线索频率与中心性定义节点权重，以在图中优先突出重要句子。
• 使用图编码器学习构建图中句子的语义表示与结构依赖关系。
• 使用线索编码器将关键线索编码并翻译为目标语言，以保留关键信息。
• 通过共享解码器联合图表示与线索表示，以端到端方式生成抽象式跨语言摘要。

实验结果

研究问题

• RQ1 关键词、命名实体等关键线索能否引导模型聚焦于重要内容，并提升跨语言摘要的质量？
• RQ2 基于共享关键线索构建的句子图，是否相比标准序列模型能增强模型对长输入长度的鲁棒性？
• RQ3 在手工撰写与翻译生成的数据集上，CLS 模型的性能表现有何差异？
• RQ4 整合线索感知编码与图结构后，其在 ROUGE 与 MoverScore 上的提升程度是否显著超越强基线模型？
• RQ5 即使缺乏逐词对齐，模型是否仍能生成既通顺又与参考摘要语义一致的摘要？

主要发现

• 在英文到中文跨语言摘要任务中，ClueGraphSum 相较最强基线模型，ROUGE-1 提升 8.55。
• 在中文到英文摘要任务中，MoverScore 提升 2.13，表明与参考摘要的语义对齐性更优。
• 与基线模型相比，该模型在输入长度增加时表现出显著更慢的性能下降速度，展现出更优的鲁棒性。
• AGC 算法在 90% 的测试案例中成功识别出最重要的三句话，这些句子是生成摘要中参考信息的主要来源。
• 人工评估确认，ClueGraphSum 生成的摘要在简洁性、信息量与流畅性方面均优于所有基线模型，包括流水线式与端到端模型。
• 基线模型（尤其是使用翻译流水线的模型）往往生成重复或带有‘翻译腔’的摘要，而 ClueGraphSum 有效避免冗余并保持了语言流畅性。