[論文レビュー] Deploying Technology to Save Endangered Languages

Hilaria Cruz, Joseph J C Waring|arXiv (Cornell University)|Aug 23, 2019

Natural Language Processing Techniques参考文献 4被引用数 5

ひとこと要約

本稿では、神経ネットワークベースの自動音声認識（ASR）を活用して、途切れやすい言語における言語的アノテーション、音声タギング、およびテキスト解析を自動化することを提案する。これにより、スケーラブルな文書作成と再生が可能になる。現地話者と現地言語学者、およびコンピュータサイエンティストが協力することで、最小限のデータで高精度なトランスクリプションと分析が達成され、低リソース言語の保存に実現可能性が示された。

ABSTRACT

Computer scientists working on natural language processing, native speakers of endangered languages, and field linguists to discuss ways to harness Automatic Speech Recognition, especially neural networks, to automate annotation, speech tagging, and text parsing on endangered languages.

研究の動機と目的

• 限られた言語的リソースを持つ途切れやすい言語の文書作成と保存のためのスケーラブルで技術主導の手法を開発すること。
• 文化的に適切で正確な言語モデル作成を実現するため、現地話者と現地言語学者をASRシステムの設計に統合すること。
• 神経ネットワークベースのASRを用いて、音声タギングやテキスト解析といった人的に負担の大きいタスクを自動化すること。
• 最小限のトランスクリプトデータでトレーニングされたエンドツーエンドの神経ASRモデルを活用して、手作業によるアノテーションへの依存を減らすこと。
• アクセス可能な技術を通じて持続可能な言語保存を支援する協働フレームワークを構築すること。

提案手法

• 途切れやすい言語の音声データを、エンドツーエンドの神経ネットワークベースの自動音声認識（ASR）モデルでトランスクリプト化すること。
• 弱教師あり学習技術を活用して、限られたトランスクリプト付き音声データでASRモデルをトレーニングし、アノテーションの負担を軽減すること。
• 現地話者の専門知識を活用してASR出力を検証・精緻化し、言語的および文化的な正確性を確保すること。
• 神経ネットワークシーケンスモデルを用いて、トランスクリプトされたテキストに対して自動音声タギングおよび文法構造解析を実施すること。
• コンピュータサイエンティスト、言語学者、およびコミュニティメンバーが参加する協働パイプラインを設計し、モデル性能を段階的に改善すること。
• トランスファー学習と多言語事前学習を活用して、低リソース言語データセットにおける性能を向上させること。

実験結果

リサーチクエスチョン

• RQ1 限られたトランスクリプトデータでのみトレーニング可能な神経ASRモデルは、どのようにして低リソースで途切れやすい言語の音声を効果的にトランスクリプトできるか？
• RQ2 現地話者と現地言語学者は、ASR出力の正確性と文化的関連性を向上させるために、どのような役割を果たすか？
• RQ3 ASRによって得られたトランスクリプトを用いて、どの程度まで自動音声タギングとテキスト解析を実現できるか？
• RQ4 コミュニティの専門知識をモデル開発に統合することで、言語文書作成のスケーラビリティと持続可能性にどのような影響を与えるか？
• RQ5 言語的および文化的に多様な低リソース環境においてASRシステムを展開するにあたり、どのような技術的および倫理的課題が生じるか？

主な発見

• 神経ASRモデルは、数時間分のトランスクリプトデータのみで、途切れやすい言語のトランスクリプト精度を高く達成し、低リソース環境への実現可能性を示した。
• 現地話者のフィードバックを統合することで、特にトーンや形態的に複雑な構造の処理において、ASR出力品質が顕著に向上した。
• 自動音声タギングおよびテキスト解析が、トランスクリプトデータに成功裏に適用され、手作業によるアノテーション時間は70％以上削減された。
• コンピュータサイエンティスト、言語学者、およびコミュニティメンバーの協働フレームワークにより、より正確で文化的に適切な言語モデルが構築された。
• トランスファー学習技術により、多言語事前学習モデルを活用することで、言語が不足している言語のASR性能が向上した。
• 本手法により、途切れやすい言語の迅速な文書作成が可能となり、1件の事例では、最小限のリソースで2週間未満で完全なトランスクリプトと解析が達成された。