[论文解读] Levenshtein Transformer

Jiatao Gu, Changhan Wang+1 more|arXiv (Cornell University)|May 27, 2019

Natural Language Processing Techniques参考文献 19被引用 186

一句话总结

Levenshtein Transformer (LevT) 在双策略模仿学习框架中将插入和删除操作结合起来，以实现灵活的部分自回归序列生成和改进，并在效率上优于标准 Transformer。

ABSTRACT

Modern neural sequence generation models are built to either generate tokens step-by-step from scratch or (iteratively) modify a sequence of tokens bounded by a fixed length. In this work, we develop Levenshtein Transformer, a new partially autoregressive model devised for more flexible and amenable sequence generation. Unlike previous approaches, the atomic operations of our model are insertion and deletion. The combination of them facilitates not only generation but also sequence refinement allowing dynamic length changes. We also propose a set of new training techniques dedicated at them, effectively exploiting one as the other's learning signal thanks to their complementary nature. Experiments applying the proposed model achieve comparable performance but much-improved efficiency on both generation (e.g. machine translation, text summarization) and refinement tasks (e.g. automatic post-editing). We further confirm the flexibility of our model by showing a Levenshtein Transformer trained by machine translation can straightforwardly be used for automatic post-editing.

研究动机与目标

• 提出一种基于插入和删除操作的新序列生成模型。
• 在机器翻译和文本摘要任务上实现与 Transformer 基线相当或更好的性能。
• 通过可并行化的改进步骤实现高效解码，从而带来加速。
• 在同一模型中统一生成与改进，以支持后编辑和编辑风格的任务。
• 提出一种双策略模仿学习算法，利用插入与删除的互补特性。

提出的方法

• 模型以 Transformer 为骨干，具有三个输出头：删除、占位符插入和标记插入，默认共享权重。
• 序列编辑在迭代中进行：在一个迭代内并行完成删除标记、插入占位符、用新标记替换占位符。
• 训练使用带有专家策略（oracle 或蒸馏教师）的模仿学习，以最大化删除和插入决策的对数似然（两个目标）。
• Roll-in 策略引入噪声或对手输出，以丰富训练状态（真值、模型输出和专家修正的混合体）。
• 推理在多个改进迭代上执行贪婪解码，直到收敛或超时；终止条件包括循环检测和对空占位符的惩罚。

实验结果

研究问题

• RQ1 是否可以在一个统一模型中将插入和删除操作结合起来，以有效地生成和改进序列？
• RQ2 双策略模仿学习在训练基于编辑的序列生成器方面的表现如何？
• RQ3 LevT 是否在生成质量与自回归 Transformer 相当的同时提供解码效率的提升？
• RQ4 在机器翻译上训练的 LevT 能否直接应用于翻译后编辑？

主要发现

• LevT 在机器翻译和文本摘要任务上获得与 Transformer 基线相当或更好的 BLEU/ROUGE 得分。
• 由于可并行化的改进步骤，LevT 在实际解码时间上实现了大约 5 倍的加速。
• 三种头之间的权重共享通常有帮助，插入相关头受益于共享表示。
• 带对抗 Roll-in 的双策略模仿学习相比简单的自编码器式设置，提升了训练信号。
• 在机器翻译上训练的 LevT 可以在不做修改的情况下直接应用于翻译后编辑（零-shot），并在对 PE 数据进行微调时进一步提升。