[論文レビュー] Phrase-level Active Learning for Neural Machine Translation

Junjie Hu, Graham Neubig|arXiv (Cornell University)|Jun 21, 2021

Natural Language Processing Techniques参考文献 31被引用数 7

ひとこと要約

本稿では、ニューラル機械翻訳（NMT）のためのハイブリッドアクティブラーニング手法を提案する。この手法は、ドメイン内未ラベルデータから完全な文と個々のフレーズを同時に選択し、人間による翻訳を実施することで、ドメイン適応の効率を向上させる。文レベルとフレーズレベルの選択を組み合わせることで、不確実性ベースのベースラインに比べて最大1.2 BLEUの向上を達成し、特にラベル付け予算が限られた状況で顕著である。

ABSTRACT

Neural machine translation (NMT) is sensitive to domain shift. In this paper, we address this problem in an active learning setting where we can spend a given budget on translating in-domain data, and gradually fine-tune a pre-trained out-of-domain NMT model on the newly translated data. Existing active learning methods for NMT usually select sentences based on uncertainty scores, but these methods require costly translation of full sentences even when only one or two key phrases within the sentence are informative. To address this limitation, we re-examine previous work from the phrase-based machine translation (PBMT) era that selected not full sentences, but rather individual phrases. However, while incorporating these phrases into PBMT systems was relatively simple, it is less trivial for NMT systems, which need to be trained on full sequences to capture larger structural properties of sentences unique to the new domain. To overcome these hurdles, we propose to select both full sentences and individual phrases from unlabelled data in the new domain for routing to human translators. In a German-English translation task, our active learning approach achieves consistent improvements over uncertainty-based sentence selection methods, improving up to 1.2 BLEU score over strong active learning baselines.

研究の動機と目的

• アクティブラーニングを用いてラベル付けコストを削減することで、NMTにおけるドメインシフトを緩和すること。
• 文の一部のみが情報を持つ場合に、全文選択が非効率である問題を克服すること。
• PBMTで一般的なフレーズベースのアクティブラーニングを、全系列の学習を必要とするNMTシステムに適応させること。
• 文選択とフレーズ選択を統合したハイブリッド選択戦略を開発し、データ効率を向上させること。
• 予算制約下で、フレーズ翻訳をNMTのファインチューニングに統合する有効性を評価すること。

提案手法

• 未ラベルのドメイン内データから完全な文と個々のフレーズ（最大4-gram）を同時に選択するハイブリッドアクティブラーニング戦略を提案。
• 文選択には文の埋め込み類似度と不確実性スコアを、フレーズ選択にはフレーズレベルの多様性と情報量を用いる。
• 既存の文におけるフレーズ交換によって生成された合成データと実際のフレーズ翻訳を組み合わせた混合ファインチューニング戦略を導入。
• 文脈を考慮したフレーズ統合技術も採用したが、ノイズが発生し、単純な手法に劣ることが判明。
• 文とフレーズの翻訳に固定されたラベル付け予算を割り当て、ドイツ語-英語の医療およびITドメイン翻訳においてBLEUスコアで性能を評価。
• 事前学習済みのWMT NMTモデルを、選択されたドメイン内データでファインチューニングし、データ拡張と混合学習によりフレーズ翻訳を統合。

実験結果

リサーチクエスチョン

• RQ1 文レベル選択と組み合わせたフレーズレベルアクティブラーニングは、NMTドメイン適応を改善できるか？
• RQ2 限られたラベル付け予算下で、ハイブリッド選択の性能は、純粋な文ベースまたはフレーズベース選択と比べてどうか？
• RQ3 モデルアーキテクチャの変更なしに、フレーズ翻訳をNMT学習に統合する最適な方法は何か？
• RQ4 フレーズ交換から生成された合成データを用いることで、実際のフレーズ翻訳に比べて性能が向上するか？
• RQ5 フレーズ選択戦略の選択が、リソースが限られたドメイン適応における最終翻訳品質に与える影響は何か？

主な発見

• ハイブリッド選択戦略は、純粋な文ベースおよびフレーズベース選択を常に上回り、BLEUスコアを最大1.2ポイント向上させる。
• ラベル付け予算が小さい場合、フレーズベース選択のみでは性能が著しく低いが、文選択と組み合わせると顕著に向上する。
• 実際のフレーズ翻訳とフレーズ交換による合成データを組み合わせた混合ファインチューニングは、合成データのみで学習する場合よりも優れている。特に予算が小さい場合（例：5,000語）に顕著である。
• 文脈を考慮したフレーズ統合（フレーズ翻訳に文脈を付加）は、ノイズの導入により最も悪い性能を示した。
• 文の埋め込みのコサイン類似度による選択は、不確実性ベースの手法に比べてより安定した性能と低い分散を達成した。
• ランダムサンプリングは依然として強力なベースラインであるが、ハイブリッドアプローチは特にラベル付け予算が制限された状況でそれを上回る。