[論文レビュー] Masakhane -- Machine Translation For Africa

Iroro Orife, Julia Kreutzer+23 more|arXiv (Cornell University)|Mar 13, 2020

Natural Language Processing Techniques参考文献 7被引用数 24

ひとこと要約

Masakhaneは、無料のGoogle Colab GPUと共有のJupyterノートブックフレームワークを用いて、アフリカの言語でニューラル機械翻訳モデルを訓練できる、オープンソースでパンアフリカ的なイニシアチブです。2020年2月時点で、17か国の144名の参加者がおり、28か国のアフリカ言語について30件の翻訳結果が発表されており、アフリカNLP研究におけるアクセス性と再現可能性が顕著に向上しています。

ABSTRACT

Africa has over 2000 languages. Despite this, African languages account for a small portion of available resources and publications in Natural Language Processing (NLP). This is due to multiple factors, including: a lack of focus from government and funding, discoverability, a lack of community, sheer language complexity, difficulty in reproducing papers and no benchmarks to compare techniques. To begin to address the identified problems, MASAKHANE, an open-source, continent-wide, distributed, online research effort for machine translation for African languages, was founded. In this paper, we discuss our methodology for building the community and spurring research from the African continent, as well as outline the success of the community in terms of addressing the identified problems affecting African NLP.

研究の動機と目的

• 資金や教育、インfraに制限がある研究者にとっても、アフリカの言語、特に未活用のアフリカ言語を対象とした持続可能で包摂的な研究コミュニティを構築すること。
• リソースや学術的トレーニングに制限がある研究者にとっても、利用しやすいオープンソースのツールやデータセットを提供し、参画の障壁を低減すること。
• GitHubにデータ、コード、結果を公開することで、アフリカ言語におけるNLP研究の発見可能性と再現可能性を向上させること。
• Slackやオンライン会議を通じて、地理的・機関的隔たりを超えた分散型参加を可能にし、共同作業、メンターシップ、知識共有を促進すること。
• 機械翻訳を超えた分野にまでNLP研究の範囲を拡大すること。具体的には、転移学習、自己教師あり学習、および幅広いNLPタスクを含めること。

提案手法

• 参加者が高価なハードウェアを必要とせずに、1つの無料GPUを搭載したGoogle ColabにホストされたJupyterノートブックを用いて、ニューラル機械翻訳（NMT）モデルをトレーニングできるようにする。
• 英語から101か国のアフリカ言語への並列データを提供するJW300多言語並列コーパスを統合し、多様なアフリカ言語でのトレーニングを支援する。
• 初心者にも使いやすいNMTフレームワークであるJoey NMTを採用し、トレーニング、評価、設定手順について明確なドキュメンテーションを提供する。
• コミュニティがGitHubリポジトリを維持し、データ、コード、モデルの結果を公開・バージョン管理することで、再現可能性と発見可能性を高める。
• 将来のクロスリンガル転移学習実験におけるデータ漏洩を防ぐために、JW300から英語をソースとするグローバルテストセットを抽出し、トレーニングデータから除外する。
• 週次オンライン会議と活発なSlackワークスペースを活用し、地理的に分散した参加者間でのリアルタイムの共同作業、メンターシップ、知識共有を促進する。

実験結果

リサーチクエスチョン

• RQ1 資金や教育、インfraに制限があるサハラ以南アフリカの研究者にとって、アクセスしやすい分散型のオープンソース研究コミュニティを効果的に構築する方法は何か？
• RQ2 資金、教育、インfraに制限があるサハラ以南アフリカの研究者にとって、参画の障壁を下げる技術的および社会的戦略は何か？
• RQ3 Google Colabのような無料のクラウドベースのコンピューティングリソースは、現地の高性能コンピューティング環境がなくても、意味のあるNLPモデルトレーニングを可能にする程度はどの程度か？
• RQ4 データ、コード、結果をGitHubで公開することで、アフリカ言語におけるNLP研究の再現可能性と発見可能性をどの程度向上できるか？
• RQ5 コミュニティ主導のイニシアチブは、主流の研究で系統的に無視されている言語のNLP発展において、果たす役割は何か？

主な発見

• 2020年2月14日現在、Masakhaneコミュニティには17か国のアフリカ諸国に加え、米国とドイツの非アフリカ諸国からも参加者がおり、144名が参加しており、地理的・文化的な多様性が顕著である。
• 25名の異なる貢献者によって、28か国のアフリカ言語について30件の翻訳結果が発表されており、コミュニティ参加の活発さが裏付けられている。
• 1つの無料GPUを搭載したGoogle Colabの利用により、参加者が個人的な高価な計算リソースを持たなくてもNMTモデルのトレーニングが可能になった。
• JW300データセットの統合により、101か国のアフリカ言語でのトレーニングの基盤が整い、利用可能な並列コーパスの範囲が著しく拡大された。
• すべての結果をGitHubに公開することで、データとモデルの発見可能性が向上し、再現性と将来のベンチマークに貢献した。
• 週次会議と専用のSlackワークスペースを通じて、機関的・地理的境界を超えた協働が成功裏に実現され、アフリカの研究者がしばしば直面する孤立を是正した。