[论文解读] MSP: Multi-Stage Prompting for Making Pre-trained Language Models Better Translators

Zhixing Tan, Xiangwen Zhang+2 more|arXiv (Cornell University)|Oct 13, 2021

Topic Modeling被引用 12

一句话总结

本文提出多阶段提示（MSP），一种通过将翻译过程划分为编码、重编码和解码三个独立阶段来提升预训练语言模型（PLM）机器翻译性能的方法，每个阶段由独立的可学习连续提示引导。MSP 显著提升了翻译性能，在三个翻译任务上的平均 BLEU 分数较提示调优（prompt tuning）高出 18.6 分，较前缀调优（prefix-tuning）高出 4.1 分。

ABSTRACT

Prompting has recently been shown as a promising approach for applying pre-trained language models to perform downstream tasks. We present Multi-Stage Prompting (MSP), a simple and automatic approach for leveraging pre-trained language models to translation tasks. To better mitigate the discrepancy between pre-training and translation, MSP divides the translation process via pre-trained language models into multiple separate stages: the encoding stage, the re-encoding stage, and the decoding stage. During each stage, we independently apply different continuous prompts for allowing pre-trained language models better shift to translation tasks. We conduct extensive experiments on three translation tasks. Experiments show that our method can significantly improve the translation performance of pre-trained language models.

研究动机与目标

• 为解决预训练语言模型（PLM）与神经机器翻译（NMT）之间的性能差距，通过提示方法改进基于 PLM 的翻译性能。
• 缓解预训练目标与翻译任务之间的语义和语言分布差异，而单阶段提示方法难以解决该问题。
• 克服仅解码器型 PLM（如 GPT）在编码源句方面表现不佳的局限性。
• 实现在无需微调或适配器注入的前提下，高效地对单一 PLM 进行多语言方向的参数高效适配。
• 探究分阶段提示是否能实现从源语言表示到目标语言表示的更平滑、更有效的过渡。

提出的方法

• 将翻译过程划分为三个阶段：编码（源语言表示学习）、重编码（精细化双向表示）和解码（目标句生成）。
• 在每个阶段应用独立的、可微的连续提示，以引导 PLM 完成翻译任务，通过反向传播进行训练。
• 以解码器-only 的预训练语言模型（如 mGPT）作为主干网络，并在每个阶段重置位置 ID 以简化实现。
• 结合前缀调优和提示调优技术，学习能够引导模型在各阶段行为的连续提示。
• 在所有阶段保持相同的 PLM，避免模型重训练或跨任务参数共享。
• 采用三阶段流水线，每个阶段使用不同的提示来控制模型生成，实现从源语言空间到目标语言空间的渐进式转变。

实验结果

研究问题

• RQ1 与单阶段提示相比，多阶段提示是否能显著提升预训练语言模型的翻译性能？
• RQ2 将翻译过程划分为编码、重编码和解码阶段，是否能更好地契合翻译的语义与语言约束？
• RQ3 在多种语言对上，MSP 与提示调优和前缀调优相比，在 BLEU 分数提升方面表现如何？
• RQ4 在不进行微调或引入适配器层的前提下，单一解码器-only PLM 是否能通过分阶段提示有效完成翻译？
• RQ5 不同阶段学习到的提示在多大程度上影响模型的语言生成行为，表明其是否实现了从源语言到目标语言的平滑过渡？

主要发现

• 在三个翻译任务上，MSP 相较于提示调优平均提升 18.6 BLEU 分，相较前缀调优提升 4.1 BLEU 分，显著改善了预训练语言模型的平均翻译性能。
• 在 WMT14 En-De 翻译任务中，MSP 达到 21.2 BLEU 分，优于参数量为 378M 的瓶颈模型（25.9 BLEU），表明提示方法的质量是关键瓶颈。
• 生成文本的语言分布从编码阶段的英语平滑过渡到解码阶段的中文，证实 MSP 实现了从源语言空间到目标语言空间的连贯转变。
• 解码阶段的提示显著增强了模型生成目标语言文本的能力，主导了最终阶段的生成行为。
• 该方法保持了 PLM 的多任务推理能力，因为未引入任何任务特定的微调或适配器模块。
• 尽管学习到的提示缺乏可解释性，但其阶段特异性行为证实 MSP 有效引导模型完成了翻译过程的各个阶段。