[論文レビュー] Unsupervised Neural Machine Translation with Generative Language Models Only

Jesse Michael Han, I. Babuschkin+9 more|arXiv (Cornell University)|Oct 11, 2021

Natural Language Processing Techniques参考文献 20被引用数 10

ひとこと要約

この論文は、生成的言語モデルのみを用いて、微調整や明示的な教師信号を一切用いずに、自己教師付きニューラル機械翻訳の最先端性能を達成する手法を提示する。GPT-3のゼロショット翻訳能力を、少数例の拡張、蒸留、反復的バックトランスレーションを通じて活用することで、WMT14 英語-フランス語ベンチマークで42.1のBLEUスコアを達成する。

ABSTRACT

We show how to derive state-of-the-art unsupervised neural machine translation systems from generatively pre-trained language models. Our method consists of three steps: few-shot amplification, distillation, and backtranslation. We first use the zero-shot translation ability of large pre-trained language models to generate translations for a small set of unlabeled sentences. We then amplify these zero-shot translations by using them as few-shot demonstrations for sampling a larger synthetic dataset. This dataset is distilled by discarding the few-shot demonstrations and then fine-tuning. During backtranslation, we repeatedly generate translations for a set of inputs and then fine-tune a single language model on both directions of the translation task at once, ensuring cycle-consistency by swapping the roles of gold monotext and generated translations when fine-tuning. By using our method to leverage GPT-3's zero-shot translation capability, we achieve a new state-of-the-art in unsupervised translation on the WMT14 English-French benchmark, attaining a BLEU score of 42.1.

研究の動機と目的

• 自己教師付きNMTにおけるエンコーダ-デコーダアーキテクチャや補助損失の必要性を排除し、生成的言語モデルにのみ依存することを目的とする。
• 大規模事前学習言語モデルが、明示的なアライメント目的やノイズ除去自己オートエンコーダーを用いずに、自己教師付き翻訳をブートストラップ可能であることを示すこと。
• 少数例プロンプティングによって生成された合成データが、ゼロショット翻訳における本物の教師信号を効果的に置き換えることができることを示すこと。
• 事前学習言語モデルと自己教師付きバックトランスレーションのみを用いて、自己教師付きNMTベンチマークで最先端の性能を達成すること。
• 反復的バックトランスレーションと組み合わせた場合、最小限の教師信号（例：N=3の少数例）が十分であることを検証すること。

提案手法

• GPT-3のゼロショット能力を活用し、ラベルなしの文対の初期翻訳を生成する。
• これらのゼロショット翻訳を少数例のデモとして用い、より大きな合成データセットをサンプリングすることで拡張する。
• 少数例のプロンプトを破棄し、合成データ上でゼロショット形式で言語モデルを微調整して翻訳タスクに適合させる。
• 反復的バックトランスレーションを実行し、両方向の翻訳を繰り返し生成し、ゴールドデータと生成された単語系列データの両方でモデルを微調整する。
• サイクル整合性を保つために、微調整の際、ゴールドデータと生成データの役割を入れ替える。
• 両方向の翻訳に同一の自己回帰的デコーダーのみのトランスフォーマーを用い、特化したアーキテクチャや補助損失を避ける。

実験結果

リサーチクエスチョン

• RQ1 1つの生成的言語モデルが、微調整や補助学習目的を一切用いずに、自己教師付きNMTで最先端性能を達成できるか？
• RQ2 大規模言語モデルからの少数例プロンプティングによって生成された合成データが、低データ設定において本物の教師信号を上回る性能を示せるか？
• RQ3 自己教師付きNMTにおける翻訳性能に与える少数例の数の影響はどの程度か？
• RQ4 自己生成データによるバックトランスレーションが、本物の単語系列データと同等の性能を達成できるか？
• RQ5 自己教師付きNMTパイプライン全体が、生成的事前学習とプロンプトベースのデータ生成のみで実装可能か？

主な発見

• 本手法は、WMT14 英語-フランス語自己教師付き翻訳ベンチマークで、42.1の新しいSOTA BLEUスコアを達成した。
• ブートストラップ段階でN=3の本物の少数例を用いた場合、最終的なBLEUは38.0（en-fr）および34.2（fr-en）となり、より大きな少数例セットを用いた結果と同等であった。
• 合成少数例デモを本物のものに置き換えても、反復的バックトランスレーション後にBLEUスコアに顕著な差は認められなかった。
• わずか3つの少数例でも、モデルは安定した性能を示し、デモの数にほとんど感受性を示さなかった。
• GPT-3から生成された合成データと本物の少数例の両方で学習させた場合、最終的な性能に差がなく、データ拡張パイプラインの頑健性が示された。
• ノイズ除去自己オートエンコーダーや敵対的損失、双語語彙の誘導を一切排除でき、自己教師付きNMTパイプラインが純粋な生成的モデリングに簡略化された。