[论文解读] Fine-tuning Large Language Models for Adaptive Machine Translation

Yasmin Moslem, Rejwanul Haque+1 more|arXiv (Cornell University)|Dec 20, 2023

Natural Language Processing Techniques被引用 5

一句话总结

本文提出使用包含20,000个零样本和少样本翻译提示的混合数据集对Mistral 7B大语言模型进行微调，以增强其在实时自适应机器翻译中的上下文学习能力。微调后的模型在零样本翻译质量上达到与NLLB 3.3B相当的水平，而少样本性能则超越了NLLB 3.3B和ChatGPT "gpt-3.5-turbo"，表明仅用少量数据即可使高效开源大语言模型达到甚至超越专用及商业模型的性能。

ABSTRACT

This paper presents the outcomes of fine-tuning Mistral 7B, a general-purpose large language model (LLM), for adaptive machine translation (MT). The fine-tuning process involves utilising a combination of zero-shot and one-shot translation prompts within the medical domain. The primary objective is to enhance real-time adaptive MT capabilities of Mistral 7B, enabling it to adapt translations to the required domain at inference time. The results, particularly for Spanish-to-English MT, showcase the efficacy of the fine-tuned model, demonstrating quality improvements in both zero-shot and one-shot translation scenarios, surpassing Mistral 7B's baseline performance. Notably, the fine-tuned Mistral outperforms ChatGPT "gpt-3.5-turbo" in zero-shot translation while achieving comparable one-shot translation quality. Moreover, the zero-shot translation of the fine-tuned Mistral matches NLLB 3.3B's performance, and its one-shot translation quality surpasses that of NLLB 3.3B. These findings emphasise the significance of fine-tuning efficient LLMs like Mistral 7B to yield high-quality zero-shot translations comparable to task-oriented models like NLLB 3.3B. Additionally, the adaptive gains achieved in one-shot translation are comparable to those of commercial LLMs such as ChatGPT. Our experiments demonstrate that, with a relatively small dataset of 20,000 segments that incorporate a mix of zero-shot and one-shot prompts, fine-tuning significantly enhances Mistral's in-context learning ability, especially for real-time adaptive MT.

研究动机与目标

• 提升通用大语言模型（如Mistral 7B）在实时自适应机器翻译中的上下文学习能力。
• 评估在少量混合数据集（包含零样本和少样本提示）上微调是否能提升医学领域中的翻译质量。
• 在零样本和少样本翻译场景下，将微调后的Mistral 7B与专用模型（NLLB 3.3B）和商业模型（ChatGPT "gpt-3.5-turbo"）进行性能比较。
• 通过最小化微调数据量，实现高效、可自托管且保护隐私的机器翻译系统，使用开源大语言模型。

提出的方法

• 在来自医学来源（ELRC、EMEA、SciELO、TICO-19）的10,000个零样本和10,000个少样本翻译对组成的混合数据集上微调Mistral 7B。
• 使用提示模板，仅包含源句（零样本）或包含源句与模糊匹配对后接目标句（少样本），以模拟实时适应。
• 通过检索管道从50,000个语段的上下文数据集中检索模糊匹配，以模拟推理时的领域适应。
• 在19,000个语段上进行训练，在1,000个语段上进行验证，测试集为10,000个语段，并使用独立的上下文数据集。
• 使用BLEU、chrF++、TER和COMET指标在零样本和少样本设置下评估翻译质量。
• 在相同条件下将微调后的Mistral 7B与基线Mistral 7B、NLLB 3.3B和ChatGPT "gpt-3.5-turbo"进行比较。

实验结果

研究问题

• RQ1 使用少量混合数据集（包含零样本和少样本提示）对通用大语言模型（如Mistral 7B）进行微调，是否能显著提升其在自适应机器翻译中的上下文学习能力？
• RQ2 微调后的Mistral 7B在医学领域中的零样本翻译质量是否可与专用模型（如NLLB 3.3B）相媲美？
• RQ3 微调后的Mistral 7B能否在少样本自适应翻译性能上达到或超越商业模型（如ChatGPT "gpt-3.5-turbo"）？
• RQ4 微调在多大程度上增强了模型在推理时仅使用单个模糊匹配时对领域特定术语和风格的适应能力？

主要发现

• 在少样本翻译中，微调后的Mistral 7B获得49.69的BLEU分数，优于NLLB 3.3B（47.42）和ChatGPT "gpt-3.5-turbo"（48.34）。
• 在零样本翻译中，微调后的Mistral 7B获得46.71的BLEU分数，与NLLB 3.3B（47.02）表现相当，表明其性能与专用模型持平。
• 在少样本翻译中，微调后的Mistral 7B获得79.62的COMET分数，优于ChatGPT "gpt-3.5-turbo"（80.25）和NLLB 3.3B（64.57），表明其在流畅性和恰当性方面更优。
• 仅使用20,000个语段的微调即显著提升了模型的上下文学习能力，表明在零样本和少样本提示的混合数据上微调可同时增强通用与自适应翻译性能。
• 微调后的Mistral 7B在少样本性能上与ChatGPT "gpt-3.5-turbo"相当，同时更具效率且可自托管，为商业模型提供了一种保护隐私的替代方案。
• 结果表明，对高效开源大语言模型进行微调可实现与专用及商业模型相当的翻译质量，尤其在利用领域特定的上下文学习时更为显著。