[論文レビュー] Balancing Training for Multilingual Neural Machine Translation

Xinyi Wang, Yulia Tsvetkov+1 more|arXiv (Cornell University)|Apr 14, 2020

Natural Language Processing Techniques参考文献 37被引用数 12

ひとこと要約

本稿では、複数言語のニューラル機械翻訳における最適なデータ重み付けを自動で学習するメタラーニング手法であるMultiDDSを提案する。言語スコアラーを最適化することで、全翻訳言語における平均性能を最大化する。ヒューリスティックなサンプリング戦略とは異なり、MultiDDSは微分可能で安定した報酬信号を用いて、動的にトレーニングデータをバランスさせる。一対多および多対一翻訳設定の両方で、ベースラインを常に上回り、分散が低く、多様な言語グループにわたる耐性も向上する。

ABSTRACT

When training multilingual machine translation (MT) models that can translate to/from multiple languages, we are faced with imbalanced training sets: some languages have much more training data than others. Standard practice is to up-sample less resourced languages to increase representation, and the degree of up-sampling has a large effect on the overall performance. In this paper, we propose a method that instead automatically learns how to weight training data through a data scorer that is optimized to maximize performance on all test languages. Experiments on two sets of languages under both one-to-many and many-to-one MT settings show our method not only consistently outperforms heuristic baselines in terms of average performance, but also offers flexible control over the performance of which languages are optimized.

研究の動機と目的

• 高リソース言語が支配的で低リソース言語のパフォーマンスが損なわれる、多言語トレーニングデータの不均衡問題に対処すること。
• 手動で調整する温度パラメータに依存し、言語の類似性を無視するヒューリスティックなデータサンプリング手法の限界を克服すること。
• モデルに依存しない、微分可能な手法を構築し、多言語翻訳モデルの最適なデータ使用法を自動で学習すること。
• カスタマイズ可能な最適化目的を通じて、複数言語間のパフォーマンストレードオフを柔軟に制御すること。
• データ重み付けに用いる報酬信号の安定化により、トレーニングの安定性と収束性を向上させること。

提案手法

• データ重み付けをメタラーニング問題として定式化することで、Differentiable Data Selection (DDS) を多言語設定に拡張する。
• 言語スコアラーを訓練し、各言語からのトレーニング例に重みを割り当てる。目的は全言語における平均バリデーション損失の最小化である。
• 多言語開発セットにおける平均BLEUスコアに基づいて報酬信号を計算し、全言語におけるパフォーマンスの共同最適化を可能にする。
• 最適化信号の分散を低減する安定化報酬バージョン（MultiDDS-S）を導入し、トレーニングの安定性を向上させる。
• スコアラーの柔軟なパrameterizationを採用し、複数言語でのトレーニング時におけるメモリ効率を確保する。
• モデルに依存しないアプローチであり、任意の多言語モデルトレーニング環境に適用可能である。

実験結果

リサーチクエスチョン

• RQ1 ヒューリスティックなサンプリングに依存せずに、多言語NMTパフォーマンスを向上させる自動学習データ重み付け戦略は可能か？
• RQ2 温度ベースのサンプリングなどのヒューリスティック手法と比較して、自動で学習されたデータ重み付けのパフォーマンスはどの程度か？
• RQ3 この手法はトレーニングを安定化させ、言語間のパフォーマンス分散を低減できるか？
• RQ4 特定の言語でのパフォーマンスを優先するために、この手法をどの程度柔軟にチューニングできるか？
• RQ5 この手法は、高・低言語的類似性を持つ言語グループにわたって一般化できるか？

主な発見

• MultiDDSは、一対多および多対一翻訳設定の両方で、全言語における平均BLEUスコアでヒューリスティックベースラインを上回った。
• 多様な言語グループでは、M2O設定で平均BLEUスコア26.94、O2M設定で18.24を達成し、MultiDDS（それぞれ0.04および0.05）よりも分散が低い（0.02）。
• 安定化バージョンであるMultiDDS-Sは、標準的なMultiDDSと比較して、報酬の分散が常に低く、トレーニング全体を通じてより安定した言語使用パターンを示した。
• MultiDDS-Sにおける学習済み言語分布は時間経過に伴い変動が少なく、トレーニングの安定性が向上していることを示している。
• 本手法は、類縁言語グループおよび多様な言語グループの両方で一貫した改善を示し、言語的多様性に対して耐性があることを実証した。
• フレームワークは柔軟な最適化目的をサポートしており、再トレーニングなしに特定言語のパフォーマンスを優先できる。