[論文レビュー] A Large Scale Corpus of Gulf Arabic

Salam Khalifa, Nizar Habash+2 more|arXiv (Cornell University)|Sep 9, 2016

Natural Language Processing Techniques参考文献 29被引用数 6

ひとこと要約

本稿では、1,200編のフォーラム小説から収集した1億1,000万語にのぼる大規模なガルフアラビア語コーパス「Gumarコーパス」を紹介する。このコーパスは、文書レベルで準方言的変異が注釈付けられている。また、初期の形態素注釈ガイドラインを提示し、MADAMIRAのガルフアラビア語処理性能を評価した結果、EGYモデルがMSAモデルを4–13パーセンテージポイント上回り、ガルフアラビア語における将来のNLPツールの基盤を確立した。

ABSTRACT

Most Arabic natural language processing tools and resources are developed to serve Modern Standard Arabic (MSA), which is the official written language in the Arab World. Some Dialectal Arabic varieties, notably Egyptian Arabic, have received some attention lately and have a growing collection of resources that include annotated corpora and morphological analyzers and taggers. Gulf Arabic, however, lags behind in that respect. In this paper, we present the Gumar Corpus, a large-scale corpus of Gulf Arabic consisting of 110 million words from 1,200 forum novels. We annotate the corpus for sub-dialect information at the document level. We also present results of a preliminary study in the morphological annotation of Gulf Arabic which includes developing guidelines for a conventional orthography. The text of the corpus is publicly browsable through a web interface we developed for it.

研究の動機と目的

• ガルフアラビア語（GA）における大規模かつ計算機的に利用可能なリソースの不足に対処すること。
• フォーラム小説から得た大規模でウェブブラウズ可能なガルフアラビア語コーパスを収集・公開すること。
• ガルフアラビア語の表記法および形態素注釈ガイドラインを開発・評価すること。
• 既存のNLPツール（MADAMIRA）のガルフアラビア語処理性能を評価し、誤りのパターンを同定すること。
• 将来の研究を可能にする、方言同定、形態素解析、機械翻訳の分野におけるガルフアラビア語の応用を支援すること。

提案手法

• ガルフ協力会議諸国を対象に、1億1,000万語の語彙を1,200編のフォーラム小説から収集した。主に大人が書いた、小説的で方言的な内容に焦点を当てた。
• 文書レベルで準方言情報（例：アラブ首長国連邦、サウジアラビア、カタール）およびメタデータ（小説タイトル、著者）を注釈付けた。
• 既存のMSAおよびエジプトアラビア語のガイドラインに基づき、ガルフアラビア語用の標準表記法および形態素注釈方式を開発した。
• 提案されたガイドラインに従い、4部の小説から約4,000語を手作業で注釈付けし、ゴールドスタンダードを確立した。
• MADAMIRAの自動注釈（MSAモードおよびエジプトアラビア語モード）をゴールドスタンダードの手作業注釈と比較し、正答率指標を用いて評価した。
• 全文、品詞、語彙素、語幹、語義訳、出典小説情報が表示可能な、公開用のウェブインターフェースを構築した。

実験結果

リサーチクエスチョン

• RQ1 MADAMIRAのような既存のNLPツールは、ガルフアラビア語処理においてどの程度有効であり、MSAモードとエジプトアラビア語モードの間でどのように比較されるか。
• RQ2 ガルフアラビア語の自動形態素および品詞タグ付けにおける主な誤り原因は何か。
• RQ3 既存のフレームワークに基づいて、ガルフアラビア語用に一貫性のある表記法および形態素注釈方式を開発できるか。
• RQ4 MADAMIRAのような既存ツールが、ガルフアラビア語の準自動注釈のベースラインとしてどの程度活用できるか。
• RQ5 大規模かつ公開可能なガルフアラビア語コーパスは、将来のNLPタスク、たとえば方言同定や形態素解析をどの程度支援できるか。

主な発見

• MADAMIRA-EGYは、すべての評価指標においてMADAMIRA-MSAを上回り、正答率で4.5～13.3パーセンテージポイントの向上を示した。
• MADAMIRA-EGYにおける最も頻出する誤りタイプは、名前（固有名詞）が普通名詞や形容動詞に似ているために品詞タグが誤認定されるもので、誤り全体の52.1％を占めた。
• 語彙素誤りは全誤りの18.2％を占め、語彙外語（OOV）問題が16.5％の誤りを占め、主に未確認語やタイポが原因であった。
• トークン化誤り（分割・結合の誤り）は約13％の誤りを占めた。
• 4,000語のゴールドスタンダード手作業注釈は、MADAMIRA-EGYがガルフアラビア語の準自動注釈の出発点として実用的であることを示した。
• Gumarコーパスは、http://camel.abudhabi.nyu.edu/gumar/ にて公開されており、言語学的注釈付きの全文検索が可能である。