[論文レビュー] Neural Machine Translation Models Can Learn to be Few-shot Learners

Raphael Reinauer, Patrick Simianer+3 more|arXiv (Cornell University)|Sep 15, 2023

Natural Language Processing TechniquesComputer Science被引用数 3

ひとこと要約

本論文では、少数の翻訳例を用いて新しいドメインに適応できるように、ニューラル機械翻訳（NMT）モデルをファインチューニングする手法を提案している。特化した目的関数を用いることで、モデルは一貫した用語の選択を可能にし、少数の例翻訳のみでドメイン適応を実現する。この手法は、翻訳品質と即時適応速度の両面で最先端の性能を達成しており、従来のファインチューニングや400億パラメータのLLM（Falcon-40B）を上回っている。さらに、軽量アダプタを用いた効率的なバッチ推論が可能である。

ABSTRACT

The emergent ability of Large Language Models to use a small number of examples to learn to perform in novel domains and tasks, also called in-context learning (ICL). In this work, we show that a much smaller model can be trained to perform ICL by fine-tuning towards a specialized training objective, exemplified on the task of domain adaptation for neural machine translation. With this capacity for ICL, the model can take advantage of relevant few-shot examples to adapt its output towards the domain. We compare the quality of this domain adaptation to traditional supervised techniques and ICL with a 40B-parameter Large Language Model. Our approach allows efficient batch inference on a mix of domains and outperforms state-of-the-art baselines in terms of both translation quality and immediate adaptation rate, i.e. the ability to reproduce a specific term after being shown a single example.

研究の動機と目的

• 標準的なNMTモデルが、出荷時からICLの能力を備えていないにもかかわらず、ドメイン適応のためのイン・コンテキスト・ラーニング（ICL）を学習可能かどうかを調査すること。
• 推論時に少数の例翻訳を効果的に活用できるように、NMTモデルの能力を向上させる訓練スキームを開発すること。
• ICL対応NMTモデルの性能を、従来のファインチューニングおよびFalcon-40Bのような大規模言語モデル（LLM）と比較し、少数の翻訳例を用いたタスクで評価すること。
• 軽量アダプタのファインチューニングとICLを組み合わせた手法が、最小限の計算コストでマルチドメイン適応に与える効果を評価すること。

提案手法

• 推論時に少数の例翻訳に注目し、それらを活用できるように訓練する専用の目的関数を用いて、標準的なNMTモデルをファインチューニングする。この目的関数は、特定のドメインに限定されるのではなく、複数のドメインに適応可能であるように設計されている。
• 推論時に、ソースドメインの訓練データから関連するイン・コンテキスト例を近い距離検索（nearest neighbor retrieval）で特定し、プロンプトに含める。
• NMTモデルに軽量アダプタ層を統合し、完全なファインチューニングなしに効率的にドメイン固有の適応を可能にする。
• ICL対応NMTモデルにドメイン固有のファインチューニング（段階3）を適用することで、未知のドメインでの性能を向上させる。
• 推論時に、kショットの例（例：英語: [元文] ドイツ語: [翻訳文]）を含むプロンプトテンプレートを用い、LLMのプロンプトと同様の方法でモデルを誘導する。
• コンテキスト例に基づいて正確な翻訳を生成できるようにモデルを訓練し、一貫性のある用語選択（WSA）とBLEUスコアの両方を最適化する。

実験結果

リサーチクエスチョン

• RQ1 標準的なNMTモデルは、アーキテクチャの変更なしに、ドメイン適応のためのイン・コンテキスト・ラーニング（ICL）を学習可能か？
• RQ2 ICL最適化NMTモデルの性能は、従来のドメインファインチューニングおよび400億パラメータのLLM（Falcon-40B）と比較して、少数の翻訳例を用いたタスクでどのように異なるか？
• RQ3 ICL訓練と軽量アダプタのファインチューニングを組み合わせた場合、マルチドメイン適応性能にどのような影響を与えるか？
• RQ4 ICL対応NMTモデルは、用語の整合性（例：用語の一致）を、ファインチューニング済みモデルと比較してどの程度維持できるか？

主な発見

• ICL最適化NMTモデルは、ベースラインNMTモデルおよび従来のファインチューニングを上回り、BLEUスコアで2.5ポイントの改善を達成した。ACEDデータセットの1ショット設定において、2位のモデルを上回った。
• MDNSデータセットでは、段階3のモデル（ICL + アダプタファインチューニング）が0ショット設定で2位のモデルを3.8ポイント上回り、『コーラン』サブセットでは相対的に101%の改善を示した。
• 段階3のモデルは、用語置換セグメントで74.6%のワード置換精度（WSA）を達成し、ファインチューニング済みモデル（57.14%）および非適応モデル（1.7%）を大きく上回った。
• すべてのkショット設定において、空の翻訳の発生率が0.0%に低下し、少数の例での推論においても高い頑健性を示した。
• Falcon-40B LLMは、kが大きい場合にACEDおよびMDNSデータセットで優れたICL性能を示したが、推論速度が遅く（1秒あたり2.6トークン）、絶対的なBLEUスコアでは最適化されたNMTモデルに劣った。
• タスク固有のファインチューニングなしでは、NMTモデルにおけるICL挙動は劣化していた。これは、信頼できる少数の例による適応を実現するには明示的な訓練が必要であることを示している。