[論文レビュー] Learning a Multi-Domain Curriculum for Neural Machine Translation

Wei Wang, Ye Tian+4 more|arXiv (Cornell University)|Aug 28, 2019

Natural Language Processing Techniques参考文献 45被引用数 4

ひとこと要約

本稿では、ニューラル機械翻訳（NMT）のためのマルチドメインカリキュラム学習フレームワークを提案する。このフレームワークは、インスタンスレベルのドメイン関連性とノイズ低減に基づいて、動的に訓練データを選択・優先する。高品質でマルチドメイン関連の強い例に段階的に注目するカリキュラムを学習することで、ドメインにかかわらず優れた性能を達成し、大規模でノイズの多いデータセットにおいて、単一ドメインおよびカリキュラムなしのベースラインを上回る。

ABSTRACT

Most data selection research in machine translation focuses on improving a single domain. We perform data selection for multiple domains at once. This is achieved by carefully introducing instance-level domain-relevance features and automatically constructing a training curriculum to gradually concentrate on multi-domain relevant and noise-reduced data batches. Both the choice of features and the use of curriculum are crucial for balancing and improving all domains, including out-of-domain. In large-scale experiments, the multi-domain curriculum simultaneously reaches or outperforms the individual performance and brings solid gains over no-curriculum training.

研究の動機と目的

• 複数のドメインに同時に一般化できる1つのNMTモデルを効果的に訓練する課題に対処すること。
• マルチドメインNMT訓練における、深刻な忘却（catastrophic forgetting）とデータの不均衡問題を克服すること。
• ドメイン関連性とデータ品質の両方を優先する動的データ選択手法を開発すること。
• 訓練時にドメインラベルに依存せずに、インドメインおよびアウトオブドメインのテストセットでモデル性能を向上させること。
• インスタンスレベルの特徴に基づくカリキュラム学習が、静的データ混合や損失重み付けを上回ることを示すこと。

提案手法

• 本手法は、各訓練例のドメイン関連性とデータ品質を測るインスタンスレベルの特徴を導入する。
• ドメイン関連性とノイズ低減スコアの重み付き組み合わせに基づいて、訓練例をソートするマルチドメインカリキュラムを定式化する。
• ドメインカバレッジとデータ品質のバランスを取る微分可能目的関数を用いて、カリキュラムをエンドツーエンドで学習する。
• NMTとNLMの特徴を用いてインスタンスレベルの関連性とノイズを推定し、しきい値ベースの選択メカニズムでバッチを形成する。
• 動的データ選択とカリキュラム学習を組み合わせることで、高品質でマルチドメイン関連の強い例に段階的にモデルの注目を向けることを可能にする。
• カリキュラム学習による訓練と、インドメインデータでのファインチューニングの両方をサポートし、全ドメインで性能向上を維持する。

実験結果

リサーチクエスチョン

• RQ1 1つのNMTモデルを、深刻な忘却を引き起こさずに複数のドメインで効果的に訓練できるか？
• RQ2 マルチドメイン一般化を向上させるために、データ選択を動的かつインスタンス固有にする方法は何か？
• RQ3 ドメイン関連性とノイズ低減に基づくカリキュラム学習は、静的データ混合や損失重み付けを上回るか？
• RQ4 インドメインの精度を向上させつつ、アウトオブドメインデータでも強力な性能を維持できるか？
• RQ5 異なる特徴表現（ドメイン別 vs. マルチドメイン）は、カリキュラム学習の性能にどのように影響するか？

主な発見

• マルチドメインカリキュラム手法は、各ドメインで個別に最適化されたモデルの性能を達成または上回り、複数ドメインの平均で39.2 BLEUを達成した。
• カリキュラムなしの訓練に比べて顕著な向上を示し、ノイズの多いデータセットにおいて平均BLEUを36.3から39.2に向上させた。
• 学習された重みを用いたカリキュラム学習は、単純なインスタンス損失重み付けを上回り、特にノイズの多いデータにおいて顕著な向上を示した。D15テストセットでは3.9 BLEUの向上を達成した。
• 最終的なカリキュラムモデルをインドメインデータでファインチューニングすることで、さらに性能向上が得られ、平均で40.8 BLEUに達した。これはベースラインのファインチューニングモデルを上回った。
• 統合されたマルチドメイン特徴（式8）を用いることで、ドメイン別特徴の線形結合（39.2 BLEU）よりもわずかに優れた性能（39.5 BLEU）を達成した。
• 図4の特徴スコアのトレンドから、カリキュラムが高品質でマルチドメイン関連の強い例に段階的に注目を向けることが示された。