[论文解读] Controllable Sentence Simplification

Louis Martin, Benoît Sagot+2 more|arXiv (Cornell University)|Oct 7, 2019

Text Readability and Simplification参考文献 5被引用 15

一句话总结

本文提出 ACCESS，一种用于句子简化任务的可控序列到序列模型，可对输出属性（如长度、词汇复杂度、句法复杂度和改写程度）进行显式控制。通过在训练时使用离散控制标记进行条件化，该模型在 WikiLarge 基准测试上取得了 41.87 的新 SOTA SARI 分数，优于此前无需外部资源或修改训练目标的模型。

ABSTRACT

Text simplification aims at making a text easier to read and understand by simplifying grammar and structure while keeping the underlying information identical. It is often considered an all-purpose generic task where the same simplification is suitable for all; however multiple audiences can benefit from simplified text in different ways. We adapt a discrete parametrization mechanism that provides explicit control on simplification systems based on Sequence-to-Sequence models. As a result, users can condition the simplifications returned by a model on attributes such as length, amount of paraphrasing, lexical complexity and syntactic complexity. We also show that carefully chosen values of these attributes allow out-of-the-box Sequence-to-Sequence models to outperform their standard counterparts on simplification benchmarks. Our model, which we call ACCESS (as shorthand for AudienCe-CEntric Sentence Simplification), establishes the state of the art at 41.87 SARI on the WikiLarge test set, a +1.42 improvement over the best previously reported score.

研究动机与目标

• 解决通用文本简化模型无法适应具有不同阅读需求的多样化受众的局限性。
• 通过基于特定属性（如长度、词汇复杂度、句法复杂度和改写程度）进行条件化，实现用户可控的简化句生成。
• 通过可控参数化方法在不使用外部数据或修改训练目标的前提下，提升标准简化基准测试的性能。
• 证明通过仔细校准控制属性，可优于标准序列到序列模型在简化任务上的表现。

提出的方法

• 将离散参数化机制适配到序列到序列模型中，以在训练期间根据用户定义的属性进行条件化。
• 引入表示目标属性的控制标记（如 'length:short', 'lexical_complexity:low'），作为源句之外的附加输入。
• 使用这些控制标记端到端训练基于 Transformer 的序列到序列模型，以生成针对指定属性量身定制的简化句。
• 使用标准训练目标（如交叉熵损失），不修改训练目标或使用外部资源。
• 在推理阶段通过提供所需的控制标记，实现特定属性简化句的生成。
• 通过超参数搜索校准控制值，以优化基准数据集上的性能。

实验结果

研究问题

• RQ1 能否在序列到序列框架中有效实现对简化属性（如长度、复杂度）的显式控制？
• RQ2 在模型中使用离散控制标记是否能带来对输出属性的有意义且可度量的控制？
• RQ3 在不使用外部数据或修改训练目标的前提下，可控模型是否能在标准基准测试上优于标准序列到序列模型？
• RQ4 在 WikiLarge 基准测试上，控制属性的校准能在多大程度上提升简化质量？

主要发现

• 所提出的 ACCESS 模型在 WikiLarge 测试集上取得了 41.87 的新 SOTA SARI 分数，较此前最佳得分提升了 +1.42。
• 可控生成可实现对输出属性（如长度、词汇复杂度、句法复杂度和改写程度）的精确调控，经定性和定量分析验证。
• 经过仔细调优的控制值使模型在无需架构修改或外部数据的情况下，仍优于标准序列到序列基线模型。
• 该模型在生成针对特定用户需求（如更短输出或更低词汇难度）的简化句方面表现出鲁棒性。
• 离散控制机制实现了有效且可解释的控制，无需重新训练或外部监督。
• 该方法在保持高准确性和流畅性的同时实现细粒度控制，证实其在多样化终端用户中的实际应用价值。