[论文解读] Insertion-Deletion Transformer

Laura Ruis, Mitchell Stern+2 more|arXiv (Cornell University)|Jan 15, 2020

Natural Language Processing Techniques参考文献 11被引用 7

一句话总结

该论文提出了一种名为插入-删除变换器（Insertion-Deletion Transformer）的新序列生成框架，通过交替使用两个变换器解码器进行插入和删除阶段，实现序列的迭代优化。该方法在移位字母序列任务上将BLEU分数从70.15提升至91.49，在凯撒密码任务上从35.55提升至37.57，显著提升了性能。其核心在于基于插入错误的策略内（on-policy）删除训练机制，使模型能够对生成序列进行迭代修正，从而在文本编辑和翻译等任务中实现更高的准确性和灵活性。

ABSTRACT

We propose the Insertion-Deletion Transformer, a novel transformer-based neural architecture and training method for sequence generation. The model consists of two phases that are executed iteratively, 1) an insertion phase and 2) a deletion phase. The insertion phase parameterizes a distribution of insertions on the current output hypothesis, while the deletion phase parameterizes a distribution of deletions over the current output hypothesis. The training method is a principled and simple algorithm, where the deletion model obtains its signal directly on-policy from the insertion model output. We demonstrate the effectiveness of our Insertion-Deletion Transformer on synthetic translation tasks, obtaining significant BLEU score improvement over an insertion-only model.

研究动机与目标

• 通过引入删除阶段以实现对生成错误的迭代修正，解决仅插入模型无法纠正错误的局限性。
• 开发一种简化的训练框架，避免使用复杂的专家策略或词元计数预测，与Levenshtein Transformer等先前工作形成对比。
• 实现灵活的非自回归序列生成，支持并行生成词元，并适用于文本简化、风格迁移等编辑类任务。
• 证明策略内删除训练在无需增加架构或训练复杂度的前提下，显著提升合成任务中的序列生成质量。

提出的方法

• 模型在两个迭代阶段运行：首先，通过标准插入变换器进行插入阶段，通过在不同位置插入词元生成候选输出。
• 其次，应用删除阶段，模型学习基于插入模型的输出来移除错误或冗余的词元。
• 删除训练使用策略内信号：删除模型直接在插入模型输出的采样序列（包括其错误）上进行训练，实现端到端的序列优化。
• 插入和删除阶段分别由独立的变换器解码头实现，删除头接收来自插入生成序列的输入。
• 该框架支持并行生成，可处理变长的输入和输出序列，当所有位置均预测结束序列标记时，生成过程终止。
• 训练过程避免使用动态规划或辅助分类器（与Levenshtein Transformer不同），从而简化了训练与推理流程。

实验结果

研究问题

• RQ1 与仅插入模型相比，两阶段插入-删除框架是否能在合成任务中提升序列生成质量？
• RQ2 基于插入模型自身输出进行训练的策略内删除训练，是否优于非策略内或基于专家的方法？
• RQ3 该插入-删除框架是否能通过从源序列出发，高效处理需要文本编辑的任务（如文本简化或风格迁移）？
• RQ4 在词汇多样性高的任务（如凯撒密码）中，删除阶段如何影响模型收敛性和BLEU分数？
• RQ5 与现有插入-删除框架（如Levenshtein Transformer）相比，该方法是否更简单高效，特别是在推理速度和训练复杂度方面？

主要发现

• 在移位字母序列任务中，插入-删除变换器的BLEU得分为91.49，显著优于仅插入模型的70.15。
• 在更复杂的凯撒密码任务中，模型BLEU得分为37.57，相比仅插入基线的35.55有所提升，表明其对非序列性和多样化输入序列具有强鲁棒性。
• 删除阶段有效纠正了插入模型引入的错误，两个合成任务中BLEU得分的持续提升充分证明了这一点。
• 对抗性删除训练在合成任务中未带来性能提升，表明插入模型提供的策略内监督已足够且高效。
• 该框架结构简洁——仅需两个变换器解码头，无需辅助的词元计数预测——相比Levenshtein Transformer等模型，训练与推理复杂度更低。
• 模型通过交替执行插入与删除步骤，实现了高效的序列迭代优化，支持灵活的非自回归生成，并具备并行化潜力。