[论文解读] Centrality-as-Relevance: Support Sets and Similarity as Geometric Proximity

Ricardo Ribeiro, David Martins de Matos|arXiv (Cornell University)|Jan 16, 2014

Topic Modeling参考文献 55被引用 5

一句话总结

本文提出了一种基于中心性即相关性的抽取式文本与语音摘要模型，通过向量空间中的几何邻近性计算语义相似度，识别关键内容。该方法构建语义相关段落的支持集，并选择出现在最多支持集中的段落作为最中心（最相关）的段落，从而在无需领域或语言依赖的情况下，实现文本与转录语音输入的最先进性能。

ABSTRACT

In automatic summarization, centrality-as-relevance means that the most important content of an information source, or a collection of information sources, corresponds to the most central passages, considering a representation where such notion makes sense (graph, spatial, etc.). We assess the main paradigms, and introduce a new centrality-based relevance model for automatic summarization that relies on the use of support sets to better estimate the relevant content. Geometric proximity is used to compute semantic relatedness. Centrality (relevance) is determined by considering the whole input source (and not only local information), and by taking into account the existence of minor topics or lateral subjects in the information sources to be summarized. The method consists in creating, for each passage of the input source, a support set consisting only of the most semantically related passages. Then, the determination of the most relevant content is achieved by selecting the passages that occur in the largest number of support sets. This model produces extractive summaries that are generic, and language- and domain-independent. Thorough automatic evaluation shows that the method achieves state-of-the-art performance, both in written text, and automatically transcribed speech summarization, including when compared to considerably more complex approaches.

研究动机与目标

• 开发一种语言与领域无关的自动摘要方法，利用中心性作为相关性的代理。
• 通过考虑全局结构而非局部线索，解决在具有少量或旁支主题的文档中识别相关内容的挑战。
• 通过语义空间中的几何邻近性建模语义相关性，改进抽取式摘要。
• 创建一种通用、可扩展且在多种输入类型（包括转录语音）中均有效的摘要方法。
• 在不依赖复杂、任务特定架构或外部资源的情况下，实现最先进性能。

提出的方法

• 对于输入中的每个段落，通过向量空间表示中的几何邻近性，从最语义相似的段落中构建其支持集。
• 使用应用于段落分布式表示的几何邻近性度量计算语义相似度。
• 通过统计每个段落所属的支持集数量来确定其中心性（相关性），从而优先选择全局突出的内容。
• 该方法作用于完整输入源，通过全局结构分析捕捉主话题与次要话题。
• 最终摘要通过在所有支持集中选择中心性得分最高的段落生成。
• 该方法完全无监督，无需任务特定调优或外部知识。

实验结果

研究问题

• RQ1 基于几何邻近性的语义图中的中心性能否有效识别多样化文本与语音输入中的相关内容？
• RQ2 基于全局支持集的中心性模型与局部或启发式方法相比，在摘要质量上表现如何？
• RQ3 基于语义相似性的简单通用模型在摘要任务中，能在多大程度上超越更复杂、更专业的模型？
• RQ4 该方法在无需适应的情况下，是否能在不同领域和语言类型中保持强性能？
• RQ5 该模型能否在不扭曲摘要焦点的前提下，有效处理次要或旁支话题？

主要发现

• 所提方法在自动摘要任务中达到最先进性能，在书面文本与自动转录语音上均显著优于更复杂的模型。
• 该方法在领域与语言间表现出强泛化能力，无需领域特定适应即可保持高效。
• 基于几何邻近性的支持集使用，即使在存在次要或边缘话题时，也能稳健检测出关键内容。
• 评估表明，该模型生成的抽取式摘要在性能上可与使用大量特征工程或训练数据的系统相媲美或更优。
• 该方法在多个基准数据集上保持高性能，证实其可靠性与可扩展性。
• 该方法的简洁性及其对外部资源的零依赖性，使其适用于低资源或实时摘要应用。