[論文レビュー] Lisan: Yemeni, Iraqi, Libyan, and Sudanese Arabic Dialect Copora with Morphological Annotations

Mustafa Jarrar, Fadi A. Zaraket+3 more|arXiv (Cornell University)|Dec 13, 2022

Natural Language Processing Techniques被引用数 5

ひとこと要約

本論文は、イエメン、イラク、リビア、スーダンのアラビア語方言から収集した120万トークンに及ぶ形態素注釈付き多言語コーパス「Lîsan̄」を紹介する。著者らは、SAMAおよびCurrasタグセットを用いたアノテーションを容易にするために、アラビア語方言アノテーションツール（ADAT）を開発した。母語話者による訓練と反復的検証を経て、一貫性と品質を確保した。その結果、低リソース方言NLP研究に役立つオープンソースで高品質なリソースが得られた。

ABSTRACT

This article presents morphologically-annotated Yemeni, Sudanese, Iraqi, and Libyan Arabic dialects Lisan corpora. Lisan features around 1.2 million tokens. We collected the content of the corpora from several social media platforms. The Yemeni corpus (~ 1.05M tokens) was collected automatically from Twitter. The corpora of the other three dialects (~ 50K tokens each) came manually from Facebook and YouTube posts and comments. Thirty five (35) annotators who are native speakers of the target dialects carried out the annotations. The annotators segemented all words in the four corpora into prefixes, stems and suffixes and labeled each with different morphological features such as part of speech, lemma, and a gloss in English. An Arabic Dialect Annotation Toolkit ADAT was developped for the purpose of the annation. The annotators were trained on a set of guidelines and on how to use ADAT. We developed ADAT to assist the annotators and to ensure compatibility with SAMA and Curras tagsets. The tool is open source, and the four corpora are also available online.

研究の動機と目的

• NLP分野におけるアラビア語方言のリソース不足を解消するため、高品質で形態素注釈付きのコーパスを構築すること。
• 多様な方言にわたる一貫性と品質を保証する共同アノテーションフレームワークを構築すること。
• 低リソース方言における品詞タグ付け、固有表現抽出、形態素正規化などのNLPタスクを支援すること。
• 学術研究のアクセス性と再現可能性を高めるために、オープンソースのツールとデータセットを提供すること。
• SAMAおよびCurrasタグセットを用いて、方言間でのアノテーション標準化を図り、異方言間比較を可能にすること。

提案手法

• Facebook、Twitter、YouTubeからテキストを収集し、イエメン語（110万トークン）、イラク語（46,000トークン）、リビア語（52,000トークン）、スーダン語（52,000トークン）の4つの方言固有のコーパスを構築した。
• SAMA、Curras、および過去のアノテーションから提示される形態素解決策を取得するオープンソースのアノテーションツールADATを開発した。これにより、ラベル付けのスピードと標準化が向上した。
• 標準化されたガイドラインを用いて35名の母語話者アノテーターを訓練し、相互アノテーター整合性のチェックと専門家レビューによる品質管理を実施した。
• SAMAおよびCurrasタグセットを用いて形態素注釈を実施し、品詞、屈折的特徴、語彙素正規化を含めた。
• 信頼性スコア（高／通常／低）と、曖昧なケースのためのリファラルシステムを導入し、アノテーション品質を維持した。
• タスクに分割されたコーパスを、専用のディスカッションチャンネルを備えた共同ワークフローによりアノテーターに割り当てた。

実験結果

リサーチクエスチョン

• RQ1 標準的な綴りのない低リソースアラビア語方言において、どのように一貫した形態素注釈を適用できるか？
• RQ2 共有された解決策を提示する半自動アノテーションツールを用いることで、アノテーションのスピードと一貫性にどのような影響を与えるか？
• RQ3 標準化されたタグセットと共同ツールに従う母語話者が、高い品質のアノテーションをどの程度達成できるか？
• RQ4 複数のアラビア語方言から得た形態素注釈付きコーパスを、どのように構造化・共有すれば、将来のNLP研究を支援できるか？
• RQ5 イエメン語、イラク語、リビア語、スーダン語の間で、NLP処理に影響を及ぼす主要な形態的・語彙的・音声的差異は何か？

主な発見

• Lîsan̄には、4つのアラビア語方言にまたがる120万トークンの完全に注釈されたデータが含まれており、そのうちイエメン語が110万トークンを占め、残りの3つの方言はそれぞれ5万トークン以上である。
• コーパスには4万8千件のドキュメント（ツイート、投稿、コメント）が含まれており、イエメン語コーパスだけでも4万5千8百5個の固有語彙素が存在し、多様な語彙的多様性が示された。
• 品質管理を通じて高い一貫性が達成された：相互アノテーター整合性が良好なアノテーターのみが採用され、曖昧なケースについてはリファラルシステムが正確性を保証した。
• ADATは、SAMA、Curras、および過去のアノテーションから得た文脈に適した事前提案形態素解決策を提供することで、アノテーションの効率を顕著に向上させた。
• コーパスとADATはhttps://portal.sina.birzeit.edu/curras/にて公開されており、再現可能な研究と将来の方言NLP開発を支援している。
• 著者らは、今後、固有表現抽出と意味論的注釈付き語彙索引をコーパスに追加する計画であり、現在の形態素注釈基盤をもとに発展させる。