[论文解读] Revisiting the Centroid-based Method: A Strong Baseline for Multi-Document Summarization

Demian Gholipour Ghalandari|arXiv (Cornell University)|Aug 25, 2017

Topic Modeling参考文献 7被引用 7

一句话总结

本文提出了一种改进的基于中心点的多文档摘要方法，通过将摘要本身视为中心点，并使用贪心算法最大化其与文档集合中心点的相似度，从而优化摘要质量。该方法在DUC2004数据集上取得了当前最优的ROUGE分数，优于原始方法并达到复杂模型的水平，同时保持了快速、无监督且易于实现的特点。

ABSTRACT

The centroid-based model for extractive document summarization is a simple and fast baseline that ranks sentences based on their similarity to a centroid vector. In this paper, we apply this ranking to possible summaries instead of sentences and use a simple greedy algorithm to find the best summary. Furthermore, we show possi- bilities to scale up to larger input docu- ment collections by selecting a small num- ber of sentences from each document prior to constructing the summary. Experiments were done on the DUC2004 dataset for multi-document summarization. We ob- serve a higher performance over the orig- inal model, on par with more complex state-of-the-art methods.

研究动机与目标

• 改进传统基于中心点的抽取式多文档摘要方法的性能。
• 探究在摘要候选集上进行全局优化（而非句子排序）是否能获得更好的结果。
• 通过高效的句子预选策略，降低大规模文档集合的计算成本。
• 建立一个强大、简单且无监督的基线模型，其性能可与复杂的最先进模型相媲美。

提出的方法

• 将摘要表示为其组成句子向量的向量和，形成摘要中心点。
• 通过计算摘要中心点与文档集合中心点之间的余弦相似度，对候选摘要进行评分。
• 使用贪心算法迭代选择能使演化中的摘要与文档中心点相似度最大的句子。
• 应用句子预选方法（N-first、N-best 和 New-TF-IDF）以限制每篇文档的输入句子数，提升效率。
• 采用TF-IDF加权的词袋表示方法对句子和中心点进行建模。
• 调整中心点向量中值的阈值，仅保留最具显著性的词语，从而提升在不同输入规模下的稳定性。

实验结果

研究问题

• RQ1 在摘要层面而非句子层面进行优化，能否提升抽取式多文档摘要的性能？
• RQ2 基于中心点相似度的全局优化策略，是否能减少对显式去重过滤的依赖？
• RQ3 不同的句子预选策略（N-first、N-best、New-TF-IDF）在降低计算成本的同时，其性能保持效果如何？
• RQ4 一个简单、无监督、基于中心点的方法，能否在标准基准上达到与复杂最先进模型相当的性能？

主要发现

• 改进后的全局中心点方法在DUC2004数据集上的ROUGE分数高于原始基于句子排序的中心点模型。
• 尽管该方法为无监督且无需训练，其性能仍与更复杂的最先进模型相当。
• N-best 和 New-TF-IDF 预选方法生成的摘要质量优于 N-first，尤其在捕捉后半部分句子的关键内容方面表现更优。
• 全局优化方法降低了对显式去重过滤的依赖，因为冗余的句子组合会因中心点相似度降低而自然受到惩罚。
• 预选策略显著减少了计算时间，同时保持或提升了摘要质量，尤其在与全局优化结合时效果更明显。
• 由于对中心点向量中低价值词语进行了阈值化处理，该方法在不同输入规模下均表现出强鲁棒性。