[論文レビュー] Tigrinya Neural Machine Translation with Transfer Learning for Humanitarian Response

Alp Öktem, Mirko Plitt+1 more|arXiv (Cornell University)|Mar 9, 2020

Natural Language Processing Techniques参考文献 16被引用数 9

ひとこと要約

本論文は、アムハラ語やゲエズ語などの他のゲーエズ文字を使用する言語からのクロスリンガル転移学習を用いたティグリニャ語から英語へのニューラル機械翻訳システムを提示する。標準的なニューラルベースラインよりも1.3 BLEUポイントの向上を達成した。このアプローチは、145万文のマルチリンガル事前学習を実施し、人道的データでドメイン特化したファインチューニングを実施することで、実用的なオープンソースモデルとパブリックデモアプリケーションを実現した。

ABSTRACT

We report our experiments in building a domain-specific Tigrinya-to-English neural machine translation system. We use transfer learning from other Ge'ez script languages and report an improvement of 1.3 BLEU points over a classic neural baseline. We publish our development pipeline as an open-source library and also provide a demonstration application.

研究の動機と目的

• エリトリアおよびエチオピアに790万人が住む低リソース言語であるティグリニャ語の機械翻訳支援の不足に対処すること。
• 従来の統計的機械翻訳アプローチが困難になるティグリニャ語の変形語彙的複雑性に対処すること。
• ヨーロッパに住むティグリニャ語話者の難民がニューラルMTによって双方向のコミュニケーションを可能にすることで、情報へのアクセスを向上させること。
• 限られた並列データを用いて、人道的文脈に特化した翻訳システムを開発すること。
• 人道的支援機関や非営利団体が利用できるように、オープンソースのパイプラインとパブリックデモアプリケーションをリリースすること。

提案手法

• システムは、ティグリニャ語やアムハラ語を含む複数のゲーエズ文字を使用する言語からの145万文の混合コーパスを用いたマルチリンガル事前学習段階を採用している。
• トランスファー学習は、まず、混合マルチリンガルデータセット上で6層8ヘッドのトランスフォーマー・モデルを学習し、その後ティグリニャ語固有のデータでファインチューニングを実施する。
• ドメイン適合性を向上させるために、自社で構築した人道的ドメインデータセット（ティグリニャ語-英語の文ペア2,300組）でモデルをさらにファインチューニングしている。
• ゲーエズ文字およびラテン文字のトークン化に6,000のサブワードユニットを用いたバイトペアエンコーディング（BPE）を採用し、ゲーエズ文字用には標点を考慮したトークン化を実施している。
• トレーニングパイプラインはOpenNMT-pyツールキットを用い、Adam最適化手法、4,000ステップのウォームアップ、検証パープレキシティに基づく早期停止を採用している。
• 評価は、標準的な指標（BLEU、ChrF、Meteor）を用い、200文のホールドアウトテストセットで実施している。

実験結果

リサーチクエスチョン

• RQ1 高リソースのゲーエズ文字を使用する言語からのトランスファー学習が、低リソースのティグリニャ語から英語へのニューラル機械翻訳を向上させ得るか？
• RQ2 ティグリニャ語専用データで訓練を開始するのと比較して、マルチリンガル事前学習は翻訳品質にどのように影響するか？
• RQ3 人道的テキストでドメイン特化したファインチューニングが、ティグリニャ語の翻訳パフォーマンスにどの程度向上効果をもたらすか？
• RQ4 限られた並列データを用いて、ティグリニャ語向けのニューラルMTシステムが実世界の人道的現場で効果的に展開可能か？
• RQ5 マルチリンガル事前学習とドメイン内ファインチューニングを組み合わせることで、BLEU や ChrF といった自動評価指標にどのような影響を与えるか？

主な発見

• マルチリンガル事前学習アプローチにより、ベースライン比で1.3ポイントのBLEUスコア向上が達成され、テストセットで23.60 BLEUを記録した。
• ドメイン内ファインチューニング後、ChrFスコアが3.1ポイント向上（46.51 → 49.59）した。
• Meteorスコアは、ベースラインの26.10から最終モデルの27.04に0.94ポイント向上した。
• 最終モデルは、すべての3つの自動評価指標でベースラインを上回った：BLEU（+1.32）、ChrF（+3.10）、Meteor（+0.94）。
• モデルは、http://gamayun.translatorswb.org/tigrinya に公開されたパブリックデモアプリケーションとして正常にデプロイされ、初のニューラルティグリニャ語-英語翻訳者となった。
• オープンソースのトレーニングパイプラインとモデル重みがリリースされ、今後の開発および人道的利用を支援する。