[論文レビュー] Low-resource Languages: A Review of Past Work and Future Challenges

Alexandre Magueresse, Vincent Carles+1 more|arXiv (Cornell University)|Jun 12, 2020

Natural Language Processing Techniques参考文献 56被引用数 36

ひとこと要約

低リソース言語のNLPアプローチのレビュー。プロジェクション/アライメント、データセット作成、言語タスク、音声、埋め込み、機械翻訳、今後の方向性に焦点を当てる。

ABSTRACT

A current problem in NLP is massaging and processing low-resource languages which lack useful training attributes such as supervised data, number of native speakers or experts, etc. This review paper concisely summarizes previous groundbreaking achievements made towards resolving this problem, and analyzes potential improvements in the context of the overall future research direction.

研究の動機と目的

• 低リソース言語（LRLs）に対するNLPの過去と現在の方法を要約する。
• タスク全体にわたる資源収集と自動アライメント技術を分析する。
• LRL文脈における言語タスク、音声、埋め込み、機械翻訳、分類を概説する。
• 将来の研究方向と、多様なデータセットおよび言語近さ指標の必要性を強調する。

提案手法

• 文書レベル・文レベル・語レベルでのプロジェクション（アライメント）技術を説明し、HRLの注釈をLRLへ移す役割を説明する。
• データセット作成の取り組み（REFLEX-LCTL、LORELEI など）と語彙誘導・文・文書レベルでの自動アライメント手法をレビューする。
• POS tagging、依存構文解析、NER/タイプ付け/リンク、形態素誘導といった言語タスクと、プロジェクション/埋め込みが適用される方法を論じる。
• 音声認識アプローチ（MLP転送、HMM）とその転移学習の検討事項を要約する。
• 埋め込みと機械翻訳アプローチ（データ拡張、多言語埋め込み、転移学習、言語グラフ）を要約する。
• 横断的な課題を特定し、多様なデータセットと言語近さ指標のような方向性を提案する。

実験結果

リサーチクエスチョン

• RQ1 プロジェクション/アライメントを通じて、過去のどのアプローチがLRLのデータ不足に効果的に対処したか。
• RQ2 LRLで用いられる主なデータ収集とアライメント戦略は何か、それらはどのタスクをサポートするか。
• RQ3 言語タスク、埋め込み、機械翻訳がLRLsにどのように適応され、核となる制約は何か。
• RQ4 LRL NLPの改善のために、文献が特定する将来の方向性と未解決の課題は何か。

主な発見

• ドキュメント、文、語レベルを横断してHRL注釈をLRLへ活用するには、プロジェクション/アライメントが引き続き中心的である。
• 多数のデータセット作成努力（REFLEX-LCTL、LORELEI）と自動アライメント技術が進展を支え、文書・文レベルの適用が強調されている。
• POS tagging、依存構文解析、NER/NET/NEL、形態素誘導などの言語タスクは、跨言語プロジェクションと多言語埋め込みの恩恵を受ける。
• LRLsの音声認識は転移学習とアーキテクチャ適応（MLP/HMM）に依存しており、データのヘテロジニティとエンティティ検出の課題が継続している。
• 多言語埋め込みとMTアプローチ（転移学習、ゼロショット翻訳、言語グラフ）は有望だが、言語類似性とデータ入手性に依存する。
• 多様で多言語のデータセットと、言語間一般化を評価する堅牢な近接性指標が重要である。