[论文解读] Abstractive Multi-Document Summarization via Phrase Selection and Merging

Lidong Bing, Piji Li+4 more|arXiv (Cornell University)|Jun 4, 2015

Topic Modeling参考文献 48被引用 36

一句话总结

本文提出了一种基于整数线性规划（ILP）的抽象式多文档摘要框架，通过选择并合并输入文档中的显著名词短语和动词短语来构建新句子。与基于句子级别的方法相比，该方法在短语级别上操作，实现了更高的内容覆盖度，并在TAC 2011基准测试中，于金字塔评估指标下超越了当前最先进系统。

ABSTRACT

We propose an abstraction-based multi-document summarization framework that can construct new sentences by exploring more fine-grained syntactic units than sentences, namely, noun/verb phrases. Different from existing abstraction-based approaches, our method first constructs a pool of concepts and facts represented by phrases from the input documents. Then new sentences are generated by selecting and merging informative phrases to maximize the salience of phrases and meanwhile satisfy the sentence construction constraints. We employ integer linear optimization for conducting phrase selection and merging simultaneously in order to achieve the global optimal solution for a summary. Experimental results on the benchmark data set TAC 2011 show that our framework outperforms the state-of-the-art models under automated pyramid evaluation metric, and achieves reasonably well results on manual linguistic quality evaluation.

研究动机与目标

• 为解决抽取式和压缩式摘要方法的局限性，这些方法受限于句子边界，无法跨句子合并事实。
• 通过在短语级别（名词短语和动词短语）而非句子级别操作，提升多文档摘要中的内容覆盖度与简洁性。
• 开发一种全局优化框架，同时选择并合并短语，以最大化显著性与内容覆盖度，同时确保语法和语义的有效性。
• 通过句法单元合并，融合多个源句的事实，实现更抽象的摘要生成。

提出的方法

• 使用Stanford解析器从短语结构树中提取名词短语（NPs）和动宾短语（VPs），以表示关键概念与事实。
• 采用全局冗余感知方法计算每个短语的显著性得分，该方法考虑短语在文档间的频率与分布。
• 将句子生成建模为整数线性规划（ILP）优化问题，联合选择并合并短语，以最大化摘要内容单元（SCUs）的覆盖度。
• 定义名词短语与动词短语之间的兼容性约束，以确保生成句子的语法与语义连贯性。
• 在短语合并后应用后处理步骤，以改善句子顺序与可读性。
• 采用全局优化目标，以在满足句法与语义约束的前提下，最大化所选短语的总显著性。

实验结果

研究问题

• RQ1 在多文档摘要任务中，短语级抽象摘要是否能在内容覆盖度与简洁性方面优于基于句子的方法？
• RQ2 整数线性规划方法在联合优化短语选择与合并方面，对抽象摘要的有效性如何？
• RQ3 与抽取式或压缩式方法相比，通过融合不同源句的事实能在多大程度上提升摘要质量？
• RQ4 在短语级别计算的显著性得分与基于句子的显著性相比，捕捉关键信息单元的能力如何？
• RQ5 在从合并短语生成新句子时，为确保语法与语义有效性，需要哪些约束条件？

主要发现

• 所提出的框架在TAC 2011基准测试中，于自动金字塔评估指标下优于当前最先进系统，表现出更优的内容覆盖度与显著性。
• 在人工语言质量评估中，该方法取得了合理良好的结果，表明生成的摘要尽管为抽象式，但仍具有流畅性与连贯性。
• 使用短语级单元可使每句话包含比句子融合或抽取式方法更多的摘要内容单元（SCUs）。
• 整数线性规划公式成功平衡了显著性最大化与句法、语义约束，实现了全局最优的短语选择与合并。
• 该框架的主要瓶颈在于ILP优化耗时较长，提示未来需在效率方面进行改进。