[论文解读] Context-Preserving Text Simplification

Christina Niklaus, Matthias Cetto+2 more|arXiv (Cornell University)|May 24, 2021

Text Readability and Simplification参考文献 44被引用 6

一句话总结

本文提出了一种保持上下文的文本简化框架，通过递归地将复杂句子分解为由修辞关系连接的语义层次结构的简化、自包含命题。利用35条基于语言学的转换规则，该方法在短语成分分类中实现了89%的精确率，在修辞关系分类中实现了69%的平均精确率，优于先前的方法，在无需训练数据的情况下保持了语篇层面的连贯性。

ABSTRACT

We present a context-preserving text simplification (TS) approach that recursively splits and rephrases complex English sentences into a semantic hierarchy of simplified sentences. Using a set of linguistically principled transformation patterns, input sentences are converted into a hierarchical representation in the form of core sentences and accompanying contexts that are linked via rhetorical relations. Hence, as opposed to previously proposed sentence splitting approaches, which commonly do not take into account discourse-level aspects, our TS approach preserves the semantic relationship of the decomposed constituents in the output. A comparative analysis with the annotations contained in the RST-DT shows that we are able to capture the contextual hierarchy between the split sentences with a precision of 89% and reach an average precision of 69% for the classification of the rhetorical relations that hold between them.

研究动机与目标

• 解决现有文本简化中句子拆分方法缺乏语篇层面连贯性的问题。
• 在简化后的句子输出中保持语义关系和上下文层次结构。
• 开发一种基于规则、无需训练的系统，将复杂句子转换为细粒度的最小命题层次结构。
• 使用RST-DT语料库评估该方法在层次结构和修辞关系分类中的表现。
• 展示简化表示作为下游自然语言处理任务（如开放信息抽取）预处理步骤的实用性。

提出的方法

• 该方法基于35条手工设计的语言学规则，采用递归的自顶向下转换阶段，实现从从句和短语中提取语义单元。
• 每个复杂句子被分解为最小的、自包含的命题，这些命题在语义上连贯且结构上简单。
• 该方法建立了一个层次结构，核心句子通过修辞关系（如对比、详述、条件、背景）与上下文相连。
• 修辞关系通过基于语篇理论（特别是修辞结构理论RST）的规则分类系统进行识别。
• 输出为一个保持原始输入上下文和语篇结构的简化句子语义层次结构。
• 该框架实现为一个名为DisSim的参考系统，已在GitHub上公开。

实验结果

研究问题

• RQ1 基于规则的方法在将复杂句子拆分为更简单成分时，能否保持语篇层面的连贯性？
• RQ2 分层的、上下文感知的简化方法在多大程度上能准确恢复RST-DT语料库中定义的复杂句子的修辞结构？
• RQ3 所提出的简化方法如何提升下游自然语言处理任务（如开放信息抽取）的性能？
• RQ4 该方法在分类简化句子单元之间的层次顺序和修辞关系方面的表现如何？
• RQ5 无需训练、基于语言学的系统能否在文本简化的语义层次重构任务中达到最先进水平？

主要发现

• 当将简化后的句子映射到RST-DT语料库中的EDU时，该方法在成分类型分类中实现了89%的精确率。
• 在拆分句子之间的修辞关系识别中，平均精确率为69%，表明其在捕捉语义关系方面表现优异。
• 用作预处理步骤时，简化输出可使开放信息抽取系统在OIE2016基准测试中的F1分数最高提升25%，召回率最高提升27%。
• 斯坦福开放信息抽取系统表现最佳，使用简化命题后，F1分数提升25.0%，召回率提升27.2%。
• 该方法使下游系统能够通过保留层次结构和修辞关系，为提取的元组增添语义上下文。
• 与现有结构化简化方法相比，该方法通过保持连贯性和语篇结构，显著优于通常在非上下文拆分方法中丢失这些特性的方法。