[論文レビュー] MSP: Multi-Stage Prompting for Making Pre-trained Language Models Better Translators

Zhixing Tan, Xiangwen Zhang+2 more|arXiv (Cornell University)|Oct 13, 2021

Topic Modeling被引用数 12

ひとこと要約

本稿では、翻訳プロセスをエンコード、再エンコード、デコードの3段階に分割し、それぞれに別々の学習可能な連続プロンプトを適用するMulti-Stage Prompting (MSP) を提案する。MSPは、事前学習済み言語モデル（PLM）の翻訳性能を著しく向上させ、3つの翻訳タスク全体でプロンプトチューニング比で平均18.6 BLEUポイント、プレフィックスチューニング比で4.1 BLEUポイント向上する。

ABSTRACT

Prompting has recently been shown as a promising approach for applying pre-trained language models to perform downstream tasks. We present Multi-Stage Prompting (MSP), a simple and automatic approach for leveraging pre-trained language models to translation tasks. To better mitigate the discrepancy between pre-training and translation, MSP divides the translation process via pre-trained language models into multiple separate stages: the encoding stage, the re-encoding stage, and the decoding stage. During each stage, we independently apply different continuous prompts for allowing pre-trained language models better shift to translation tasks. We conduct extensive experiments on three translation tasks. Experiments show that our method can significantly improve the translation performance of pre-trained language models.

研究の動機と目的

• 事前学習済み言語モデル（PLM）とニューラル機械翻訳（NMT）の性能格差を是正するため、プロンプティングを用いてPLMベースの翻訳を向上させること。
• 単一段階のプロンプティングが解決に苦労する、事前学習の目的と翻訳タスクとの間の意味的・言語分布の不一致を軽減すること。
• GPTのような単方向デコーダー専用PLMの限界を克服し、ソース文のエンコードに不適切であることを防ぐこと。
• ファインチューニングやアダプタの挿入を伴わずに、1つのPLMを複数の翻訳方向に効率的かつパラメータ効率的に適応可能にすること。
• 段階的プロンプティングが、1つのPLM内でのソース言語表現からターゲット言語表現への滑らかで効果的な移行を可能にするかを検討すること。

提案手法

• 翻訳プロセスを3段階に分割する：エンコード（ソース表現学習）、再エンコード（洗練された双方向表現）、デコード（ターゲット文生成）。
• 各段階に独立した微分可能な連続プロンプトを適用し、バックプロパゲーションで学習することで、PLMを翻訳タスクに導く。
• 実装の簡素化のため、デコーダー専用の事前学習済み言語モデル（例：mGPT）をバックボーンとして用い、各段階で位置IDをリセットする。
• プレフィックスチューニングとプロンプトチューニングの技術を活用し、各段階でモデルの挙動を制御する連続プロンプトを学習する。
• 全段階で同一のPLMを維持し、タスク間での再トレーニングやパラメータ共有を避ける。
• 各段階で異なるプロンプトを用いてモデルの生成を条件づける3段階パイプラインを採用し、段階的変換によるソースからターゲット言語空間へのシフトを可能にする。

実験結果

リサーチクエスチョン

• RQ1 マルチステージプロンプティングは、単一段階プロンプティングと比較して、事前学習済み言語モデルの翻訳性能を顕著に向上させることができるか？
• RQ2 エンコード、再エンコード、デコードの3段階に翻訳プロセスを分割することで、翻訳の意味的・言語的制約に適切に適合できるか？
• RQ3 異なる言語対において、MSPはプロンプトチューニングおよびプレフィックスチューニングと比較して、BLEUスコアの向上にどの程度寄与するか？
• RQ4 ファインチューニングやアダプタ層を導入せず、1つのデコーダー専用PLMが段階的プロンプティングによって効果的に翻訳を実行できるか？
• RQ5 各段階で学習されたプロンプトが、モデルの言語生成挙動にどの程度影響を与えるか。これは、ソース言語からターゲット言語への滑らかな移行が実現されているかを示唆する。

主な発見

• MSPは、3つの翻訳タスク全体で、プロンプトチューニング比で平均18.6 BLEUポイント、プレフィックスチューニング比で4.1 BLEUポイントの翻訳性能向上を達成する。
• WMT14 En-De翻訳タスクにおいて、MSPは21.2 BLEUポイントを達成し、調整可能なパラメータ数378Mのボトルネックモデル（25.9 BLEU）を上回る。これは、プロンプティング手法の質が主な性能ボトルネックであることを示唆する。
• 生成テキストの言語分布が、エンコード段階の英語からデコード段階の中国語へ滑らかに移行しており、MSPがソースからターゲット言語空間への一貫したシフトを実現していることを確認する。
• 生成段階のプロンプトが、最終段階における生成行動を支配しており、ターゲット言語テキストの生成能力が著しく向上していることが示される。
• タスク固有のファインチューニングやアダプタモジュールを導入していないため、PLMのミックスドメイン推論能力が維持されている。
• 学習されたプロンプトの解釈性に欠けるものの、その段階別動作が、MSPが翻訳の各段階を効果的に制御していることを裏付けている。