[论文解读] Neural Machine Translation Models Can Learn to be Few-shot Learners

Raphael Reinauer, Patrick Simianer+3 more|arXiv (Cornell University)|Sep 15, 2023

Natural Language Processing TechniquesComputer Science被引用 3

一句话总结

该论文提出通过专用目标函数微调神经机器翻译（NMT）模型，使其能够执行少样本领域的上下文学习（ICL）以实现少样本领域自适应。该方法在翻译质量与即时适应率方面达到当前最优性能，优于传统微调方法及参数量为400亿的大型语言模型（Falcon-40B），同时支持高效的批量推理与轻量级适配器。

ABSTRACT

The emergent ability of Large Language Models to use a small number of examples to learn to perform in novel domains and tasks, also called in-context learning (ICL). In this work, we show that a much smaller model can be trained to perform ICL by fine-tuning towards a specialized training objective, exemplified on the task of domain adaptation for neural machine translation. With this capacity for ICL, the model can take advantage of relevant few-shot examples to adapt its output towards the domain. We compare the quality of this domain adaptation to traditional supervised techniques and ICL with a 40B-parameter Large Language Model. Our approach allows efficient batch inference on a mix of domains and outperforms state-of-the-art baselines in terms of both translation quality and immediate adaptation rate, i.e. the ability to reproduce a specific term after being shown a single example.

研究动机与目标

• 探究标准NMT模型是否可在无需架构修改的情况下，通过训练实现上下文学习（ICL）以用于领域自适应。
• 开发一种训练方案，提升NMT模型在推理过程中利用少量示例进行领域特定自适应的能力。
• 对比ICL增强型NMT模型与传统微调方法及类似Falcon-40B的大语言模型（LLM）在少样本翻译任务中的表现。
• 评估将ICL与轻量级适配器微调相结合在多领域自适应中实现最小计算成本的有效性。

提出的方法

• 在专用目标函数上微调标准NMT模型，使其在推理时能够关注并利用少量示例翻译，而非仅学习单一领域。
• 使用最近邻检索从源领域训练数据中识别相关上下文示例，并在推理时将其包含在提示中。
• 在NMT模型中集成轻量级适配器层，实现在无需完整微调的情况下高效进行领域特定自适应。
• 将具备ICL能力的NMT模型与领域特定微调（阶段3）结合，以提升在未见领域上的性能。
• 使用包含k-shot示例（如：英文: [源句] 德文: [目标句]）的提示模板，引导模型在推理过程中表现，类似大模型的提示方式。
• 通过优化BLEU分数与术语一致性上的词替换准确率（WSA），训练模型在上下文示例条件下生成准确翻译。

实验结果

研究问题

• RQ1 标准NMT模型是否可在不进行架构修改的情况下，通过训练实现上下文学习（ICL）以用于领域自适应？
• RQ2 在少样本翻译任务中，ICL优化后的NMT模型与传统领域微调方法及400亿参数大模型（Falcon-40B）相比表现如何？
• RQ3 将ICL训练与轻量级适配器微调结合，对多领域自适应性能有何影响？
• RQ4 与微调模型相比，ICL增强型NMT模型在词替换片段上保持翻译一致性（如术语对齐）的能力如何？

主要发现

• ICL优化后的NMT模型在BLEU分数上优于基线NMT模型与传统微调方法，在ACED数据集的1-shot设置下，较第二名提升2.5个BLEU点。
• 在MDNS数据集上，阶段3模型（ICL + 适配器微调）在0-shot设置下相较第二名提升3.8个BLEU点，且在《古兰经》子集上实现101%的相对提升。
• 阶段3模型在词替换片段上的词替换准确率（WSA）达到74.6%，显著优于微调模型（57.14%）与未适配模型（1.7%）。
• 在所有k-shot设置下，该模型将空翻译率降低至0.0%，表明其在少样本推理中具有高度鲁棒性。
• 当k值较高时，Falcon-40B大模型在ACED与MDNS数据集上表现出较强的ICL性能，但其推理速度较慢（2.6 tokens/秒），且在绝对BLEU分数上仍低于优化后的NMT模型。
• 若无特定任务微调，NMT模型中的ICL行为表现退化，表明必须通过显式训练才能解锁可靠的少样本自适应能力。