[論文レビュー] A Paradigm Shift in Machine Translation: Boosting Translation Performance of Large Language Models

Haoran Xu, Young Jin Kim+2 more|arXiv (Cornell University)|Sep 20, 2023

Natural Language Processing Techniques被引用数 27

ひとこと要約

本論文は ALMA を紹介する。デコーダーのみの LLM のための二段階微調整レシピで、並列データへの過度な依存を抑えつつ翻訳性能を劇的に向上させ、10方向で平均で12 BLEU以上、12 COMET以上の向上を達成し、従来の研究を上回り、NLLB-54B および GPT-3.5-D との競争力を持つことを示します。

ABSTRACT

Generative Large Language Models (LLMs) have achieved remarkable advancements in various NLP tasks. However, these advances have not been reflected in the translation task, especially those with moderate model sizes (i.e., 7B or 13B parameters), which still lag behind conventional supervised encoder-decoder translation models. Previous studies have attempted to improve the translation capabilities of these moderate LLMs, but their gains have been limited. In this study, we propose a novel fine-tuning approach for LLMs that is specifically designed for the translation task, eliminating the need for the abundant parallel data that traditional translation models usually depend on. Our approach consists of two fine-tuning stages: initial fine-tuning on monolingual data followed by subsequent fine-tuning on a small set of high-quality parallel data. We introduce the LLM developed through this strategy as Advanced Language Model-based trAnslator (ALMA). Based on LLaMA-2 as our underlying model, our results show that the model can achieve an average improvement of more than 12 BLEU and 12 COMET over its zero-shot performance across 10 translation directions from the WMT'21 (2 directions) and WMT'22 (8 directions) test datasets. The performance is significantly better than all prior work and even superior to the NLLB-54B model and GPT-3.5-text-davinci-003, with only 7B or 13B parameters. This method establishes the foundation for a novel training paradigm in machine translation.

研究の動機と目的

• デコーダーのみの LLM が、大規模な並列データセットを用いずに高い翻訳性能を達成できることを示す。
• 単言語データ（非英語）と高品質な並列データを組み合わせた二段階微調整手法を開発する。
• 単言語データとデータの品質が翻訳性能にとって極めて重要であることを示す。
• 従来の LLM ベースの翻訳アプローチを上回る、実用的で計算資源効率の高いトレーニングプロトコルを提供する。

提案手法

• バックボーンモデルとして LLaMA-2 を使用し、5 ペアの言語対について双方方向のゼロショット翻訳を評価する。
• 二段階微調整を採用する：(i) 非英語言語での単言語データ微調整（忘れ防止のため英語を追加）、(ii) 高品質な並列データによる微調整。
• 固定の翻訳プロンプトを用いた標準的な因果言語モデリング損失で訓練し、プロンプトやソース文の損失を計算しない。
• 第2段階にはフルウェイト微調整と Low-Rank Adaptation (LoRA) を検討し、データ効率を評価する。
• 強力な性能には約 1B の単言語トークンのみで十分であることを示し、7B モデルで 16 MI200 GPU を用い約 18 時間の訓練を行う。
• SoTA モデル（NLLB-54B、GPT-3.5-D/T、GPT-4）および従来研究と比較評価する。

実験結果

リサーチクエスチョン

• RQ1 デコーダーのみの LLM が、限られた並列データで競争力のある翻訳性能を達成できるか？
• RQ2 単言語データと高品質な並列データを活用した二段階微調整レシピは、既存の LLM ベースの翻訳アプローチを上回るか？
• RQ3 ALMA における単言語データ量とデータ品質は翻訳性能にどう影響するか？
• RQ4 ALMA のトレーニングレシピの計算コストと実用性は？

主な発見

• ALMA-7B および ALMA-13B は、従来の同様の研究を著しく上回り、SoTA モデルと競争力を持つ。
• ALMA-13B-LoRA および ALMA-7B の variants は、10方向で強い結果を達成し、平均で NLLB-54B および GPT-3.5-D を上回る。
• ゼロショット性能の LLaMA-2 は ALMA レシピで劇的に向上し、例えば en→xx 方向で ALMA-7B は平均で +16.12 BLEU および +17.61 COMET を達成する。
• 言語間で 58K 件の高品質な並列データと単言語データを組み合わせると substantial gains、過剰な並列データは既存の知識を希薄化する可能性。
• 単言語データと高品質な並列データを用いた訓練は計算効率が高く、1B の単言語トークンで約 18 時間、16 MI200 GPU で実行可能。
• COMET は語彙的重複を超えた翻訳品質を捉える重要な評価指標である（データがドメインマッチしている場合 BLEU は誤解を招くことがある）。