[論文レビュー] Extended Parallel Corpus for Amharic-English Machine Translation

Andargachew Mekonnen Gezmu, Andreas Nürnberger+1 more|arXiv (Cornell University)|Apr 8, 2021

Natural Language Processing Techniques参考文献 18被引用数 5

ひとこと要約

この論文では、新聞、雑誌、教科書などの編集済み資料から収集された、表記のばらつきや低資源言語の課題に対処するための、洗練された前処理と正規化を施した高品質なアムハラ語-英語並列コーパスを提示している。このコーパスは、統計的でない神経機械翻訳モデルの学習を可能にし、神経モデルが統計モデルを6–7 BLEUポイント上回り、サブワードモデルが語彙ベースのモデルを3–4 BLEUポイント上回ることを示しており、低資源言語翻訳における顕著な向上を示している。

ABSTRACT

This paper describes the acquisition, preprocessing, segmentation, and alignment of an Amharic-English parallel corpus. It will be helpful for machine translation of a low-resource language, Amharic. We freely released the corpus for research purposes. Furthermore, we developed baseline statistical and neural machine translation systems; we trained statistical and neural machine translation models using the corpus. In the experiments, we also used a large monolingual corpus for the language model of statistical machine translation and back-translation of neural machine translation. In the automatic evaluation, neural machine translation models outperform statistical machine translation models by approximately six to seven Bilingual Evaluation Understudy (BLEU) points. Besides, among the neural machine translation models, the subword models outperform the word-based models by three to four BLEU points. Moreover, two other relevant automatic evaluation metrics, Translation Edit Rate on Character Level and Better Evaluation as Ranking, reflect corresponding differences among the trained models.

研究の動機と目的

• アムハラ語は、複雑な音節的文字と表記の不一致を示す低資源のセミチック語であるが、そのような言語の高品質な並列コーパスの不足を是正すること。
• ウェブスクリーピングデータではなく、信頼できる編集済み資料から得た大規模でクリーニングされ、正規化されたアムハラ語-英語並列コーパスの開発。
• 新規コーパス上で統計的および神経機械翻訳モデルを学習・評価し、性能向上をベンチマークすること。
• サブワードトークン化とモノリンガルデータを用いたバックトランスレーションの影響を調査すること。
• 研究を支援するためにコーパスを公開すること。

提案手法

• 新聞、雑誌、教科書から二言語テキストを収集し、ウェブ抽出データよりも高い言語的品質を確保した。
• アムハラ語における表記の不一致を低減するため、テキスト正規化と自動スペル訂正を実施した。
• 包括的なアムハラ語-英語語彙索引が存在しないため、二言語語彙索引に依存せず、非教師あり手法を用いて文の対応付けを実施した。
• このコーパス上で、フレーズベースの統計的機械翻訳（SMT）とトランスフォーマーに基づく神経機械翻訳（NMT）モデルを学習した。
• 言語モデル強化のため、大規模なモノリンガル英語コーパスをSMTに活用し、モノリンガルデータを用いたバックトランスレーションによりNMTの性能を向上させた。
• NMTにおける稀・未知語の処理を改善し、一般化性能を向上させるために、サブワード分割（BPE）を適用した。

実験結果

リサーチクエスチョン

• RQ1 手作業で選別された高品質なアムハラ語-英語並列コーパスは、低資源言語の機械翻訳性能を向上させることができるか？
• RQ2 同じ拡張コーパス上で学習された場合、神経機械翻訳モデルは統計モデルを上回るか？
• RQ3 サブワードトークン化は、語彙ベースのトークン化に比べて、アムハラ語-英語翻訳で測定可能な利点を提供するか？
• RQ4 バックトランスレーションを用いてモノリンガルデータを統合することで、NMT性能はどの程度向上するか？
• RQ5 自動前処理と正規化は、アムハラ語におけるスペルのばらつきを効果的に低減し、対応付け品質を向上させることができるか？

主な発見

• 神経機械翻訳モデルは、自動評価において統計モデルを約6–7 BLEUポイント上回った。
• サブワードベースのNMTモデルは、語彙ベースのNMTモデルよりも3–4 BLEUポイント高いスコアを達成し、稀で複雑なアムハラ語語形の処理が優れていることが示された。
• 文字レベル翻訳編集率（TER-C）とランキングとしてのより良い評価（BER）の指標も、BLEUスコアで観察された性能差を裏付けた。
• 従来の小規模または低品質なアムハラ語-英語コーパスよりも、このコーパスは翻訳品質を顕著に向上させ、競争力のあるモデル学習を可能にした。
• バックトランスレーションによるモノリンガルデータの活用は、特に低資源環境下でNMT性能をさらに向上させた。
• 無料で公開されたこのコーパスは、アムハラ語および他の低資源言語の機械翻訳分野における今後の研究にとって貴重なリソースを提供している。