[论文解读] Unsupervised Neural Machine Translation with Generative Language Models Only

Jesse Michael Han, I. Babuschkin+9 more|arXiv (Cornell University)|Oct 11, 2021

Natural Language Processing Techniques参考文献 20被引用 10

一句话总结

本文提出一种仅使用生成式语言模型实现最先进无监督神经机器翻译的方法，通过少样本增强、蒸馏和迭代回译，利用 GPT-3 的零样本翻译能力。该方法在 WMT14 英法基准上达到 42.1 的新 SOTA BLEU 分数，且无需任何微调或除预训练外的显式监督。

ABSTRACT

We show how to derive state-of-the-art unsupervised neural machine translation systems from generatively pre-trained language models. Our method consists of three steps: few-shot amplification, distillation, and backtranslation. We first use the zero-shot translation ability of large pre-trained language models to generate translations for a small set of unlabeled sentences. We then amplify these zero-shot translations by using them as few-shot demonstrations for sampling a larger synthetic dataset. This dataset is distilled by discarding the few-shot demonstrations and then fine-tuning. During backtranslation, we repeatedly generate translations for a set of inputs and then fine-tune a single language model on both directions of the translation task at once, ensuring cycle-consistency by swapping the roles of gold monotext and generated translations when fine-tuning. By using our method to leverage GPT-3's zero-shot translation capability, we achieve a new state-of-the-art in unsupervised translation on the WMT14 English-French benchmark, attaining a BLEU score of 42.1.

研究动机与目标

• 通过完全依赖生成式语言建模，消除无监督 NMT 中编码器-解码器架构和辅助损失的需求。
• 证明大规模预训练语言模型可在无需显式对齐目标或去噪自编码的情况下，实现无监督翻译的自举。
• 表明通过少样本提示生成的合成数据可在零样本翻译中有效替代真实监督。
• 仅使用预训练语言模型和自监督回译，实现无监督 NMT 基准的最先进性能。
• 验证在结合迭代回译时，极少的监督（如 N=3 的少样本示例）已足够。

提出的方法

• 利用 GPT-3 的零样本能力，为少量未标注句子对生成初始翻译。
• 通过将这些零样本翻译作为少样本示范，采样生成更大的合成数据集，以实现数据增强。
• 丢弃少样本提示，在合成数据上以零样本格式微调语言模型，使其与翻译任务对齐。
• 通过反复双向生成翻译并同时在真实和生成的单语数据上微调模型，执行迭代回译。
• 通过在微调过程中交换真实数据与生成数据的角色，强制实现循环一致性，以保持语言连贯性。
• 对双向翻译使用单一自回归解码器-only Transformer，避免专用架构或辅助损失。

实验结果

研究问题

• RQ1 单一生成式语言模型是否可在无需任何微调或辅助训练目标的情况下，实现无监督 NMT 的 SOTA 性能？
• RQ2 通过大规模语言模型少样本提示生成的合成数据，在低资源设置下是否优于真实监督？
• RQ3 在无监督 NMT 中，少样本示例的数量在多大程度上影响最终翻译性能？
• RQ4 使用自生成数据的回译是否能达到与真实单语数据相当的性能？
• RQ5 整个无监督 NMT 流程是否可完全通过生成式预训练和基于提示的数据生成实现？

主要发现

• 该方法在 WMT14 英法无监督翻译基准上达到 42.1 的新 SOTA BLEU 分数。
• 在自举阶段仅使用 N=3 的真实少样本示例，最终 BLEU 分数达到 38.0（英-法）和 34.2（法-英），与使用更大少样本集的结果相当。
• 在迭代回译后，用真实少样本示范替换合成少样本示范对最终 BLEU 无显著影响。
• 即使仅使用三个少样本示例，模型性能也保持稳定，表明对示范数量的敏感度极低。
• 当使用 GPT-3 生成的合成数据或真实少样本示例进行训练时，最终模型性能相当，表明数据增强流程具有鲁棒性。
• 该方法消除了对去噪自编码、对抗损失或双语词典归纳的需求，将无监督 NMT 流程简化为纯粹的生成式建模。