Skip to main content
QUICK REVIEW

[论文解读] A Comprehensive Survey on Process-Oriented Automatic Text Summarization with Exploration of LLM-Based Methods

Yang Zhang, Hanlei Jin|arXiv (Cornell University)|Mar 5, 2024
Topic ModelingComputer Science被引用 30
一句话总结

本综述提出一个面向过程的ATS架构,回顾数据获取、预处理、建模和评估,并提供对基于LLM的ATS方法的最新综述。

ABSTRACT

Automatic Text Summarization (ATS), utilizing Natural Language Processing (NLP) algorithms, aims to create concise and accurate summaries, thereby significantly reducing the human effort required in processing large volumes of text. ATS has drawn considerable interest in both academic and industrial circles. Many studies have been conducted in the past to survey ATS methods; however, they generally lack practicality for real-world implementations, as they often categorize previous methods from a theoretical standpoint. Moreover, the advent of Large Language Models (LLMs) has altered conventional ATS methods. In this survey, we aim to 1) provide a comprehensive overview of ATS from a ``Process-Oriented Schema'' perspective, which is best aligned with real-world implementations; 2) comprehensively review the latest LLM-based ATS works; and 3) deliver an up-to-date survey of ATS, bridging the two-year gap in the literature. To the best of our knowledge, this is the first survey to specifically investigate LLM-based ATS methods.

研究动机与目标

  • 提供一个适用于现实场景实现的、与流程对齐的实用 ATS 总览。
  • 系统性地评估 ATS 中数据获取的开源数据集和方法。
  • 总结语言模型和摘要模型,重点强调基于LLM的方法。
  • 讨论 ATS 的评估指标和实际挑战,包括数据集质量和事实性。

提出的方法

  • 引入一个与开发流程对齐的 ATS 面向过程架构(数据获取、预处理、语言/摘要建模、评估)。
  • 调查开源 ATS 数据集,讨论领域覆盖和可访问性。
  • 描述传统与基于LLM的语言模型及其在 ATS 中的作用,包括标注和数据集构建的考量。
  • 讨论在 ATS 流水线中使用的预处理工具包与技术。
  • 分析 ATS 部署中的评估指标与实际挑战。

实验结果

研究问题

  • RQ1实际部署中,什么样的 ATS 工作流才是实用且以流程为导向的?
  • RQ2在数据、模型和评估维度上,基于LLM的 ATS 方法与传统方法有何比较?
  • RQ3哪些数据集和标注策略最能支持领域特定的 ATS 开发?
  • RQ4关键挑战有哪些(如事实性、幻觉/编造),如何在含 LL M 的 ATS 中缓解?

主要发现

  • 提出并倡导一个与 ATS 开发流程对应的面向过程架构。
  • 提供关于 ATS 的开源数据集及数据集构建策略的全面概述。
  • 对基于LLM的 ATS 方法进行综述,并将其定位为未来工作的基础参考。
  • 强调数据质量、标注策略与评估指标在验证 ATS 系统中的重要性。
  • 讨论支持实用 ATS 流水线的预处理工具和技术。
  • 指出基于LLM的 ATS 面临的挑战,如幻觉与事实性问题,并讨论缓解策略。

阅读本论文

在 Nubint 阅读器中打开原文,边读边就任意段落提问。

在 Nubint 中阅读本论文

本解读由 AI 根据论文原文生成,引用前请核对原文。