A Systematic Survey of Text Summarization: From Statistical Methods to Large Language Models

随着深度神经网络、预训练语言模型（PLMs）和最近的大型语言模型（LLMs）的出现，文本摘要研究经历了几次重大转变。因此，本文从这些范式转变的角度全面回顾了文本摘要的研究进展和演变。它分为两个主要部分：（1）在LLM时代之前，对数据集、评估指标和摘要方法进行详细概述，包括传统的统计方法、深度学习方法和PLM微调技术；（2）首次详细探讨了LLM时代中摘要的基准测试、建模和评估方面的最新进展。通过综合现有文献并提供一个连贯的概述，本文还讨论了摘要研究的趋势、开放性挑战，并提出了有前途的研究方向，旨在引导研究人员穿越摘要研究的不断演变的景观。

本论文旨在通过综述文本摘要领域的研究进展和演变，从深度神经网络、预训练语言模型和大型语言模型的角度出发，提供对该领域的全面回顾。

论文分为两个主要部分，第一部分概述了LLM时代之前的数据集、评估指标和摘要方法，包括传统统计方法、深度学习方法和PLM微调技术；第二部分详细介绍了LLM时代的摘要基准、建模和评估的最新进展。

本文综述了文本摘要领域的研究进展和演变，对研究趋势、开放挑战和有前途的研究方向进行了讨论。实验使用了多个数据集和评估指标，提供了有关各种方法的详细信息。本文还提出了一些有前途的研究方向，例如探索多模态和多领域的文本摘要。

最近的相关研究包括：1.《Pre-training-based Natural Language Generation for Text Summarization》；2.《A Survey on Neural Network-Based Summarization Methods》；3.《Fine-tune BERT for Extractive Summarization》等。