[论文解读] A Large Scale Corpus of Gulf Arabic

Salam Khalifa, Nizar Habash+2 more|arXiv (Cornell University)|Sep 9, 2016

Natural Language Processing Techniques参考文献 29被引用 6

一句话总结

本文介绍了Gumar语料库，这是一个从1,200篇论坛小说中收集的1.1亿词规模的阿曼阿拉伯语语料库，按文档级别标注了次方言差异。论文提出了初步的形态学标注指南，并评估了MADAMIRA在阿曼阿拉伯语上的表现，结果显示EGY模型相比MSA模型在准确率上高出4至13个百分点，为未来阿曼阿拉伯语自然语言处理工具的开发奠定了基础。

ABSTRACT

Most Arabic natural language processing tools and resources are developed to serve Modern Standard Arabic (MSA), which is the official written language in the Arab World. Some Dialectal Arabic varieties, notably Egyptian Arabic, have received some attention lately and have a growing collection of resources that include annotated corpora and morphological analyzers and taggers. Gulf Arabic, however, lags behind in that respect. In this paper, we present the Gumar Corpus, a large-scale corpus of Gulf Arabic consisting of 110 million words from 1,200 forum novels. We annotate the corpus for sub-dialect information at the document level. We also present results of a preliminary study in the morphological annotation of Gulf Arabic which includes developing guidelines for a conventional orthography. The text of the corpus is publicly browsable through a web interface we developed for it.

研究动机与目标

• 为解决自然语言处理中阿曼阿拉伯语（GA）缺乏大规模、可计算处理的资源的问题。
• 从论坛小说中收集并公开发布一个大规模、可网络浏览的阿曼阿拉伯语语料库。
• 制定并评估阿曼阿拉伯语的正字法和形态学标注指南。
• 评估现有自然语言处理工具（MADAMIRA）在阿曼阿拉伯语上的表现，并识别错误模式。
• 为未来在阿曼阿拉伯语中的方言识别、形态学分析和机器翻译等研究提供支持。

提出的方法

• 从海湾合作委员会国家的1,200篇论坛小说中收集了1.1亿词，重点聚焦于成人创作的、类似小说的方言内容。
• 在文档级别对语料库进行次方言信息（如阿联酋、沙特、卡塔尔）和元数据（小说标题、作者）的标注。
• 基于现有的MSA和埃及阿拉伯语指南，制定了一套阿曼阿拉伯语的常规正字法和形态学标注方案。
• 使用所提出的指南，对四部小说中约4,000个词进行人工标注，以建立金标准。
• 使用准确率指标，将MADAMIRA的自动标注结果（分别以MSA和埃及阿拉伯语模式运行）与金标准的人工标注结果进行对比评估。
• 开发了一个公开的网络界面，用于浏览语料库，支持完整上下文、词性（POS）、词干、词义标注和来源小说信息的查看。

实验结果

研究问题

• RQ1 现有自然语言处理工具（如MADAMIRA）在处理阿曼阿拉伯语时的效果如何？MSA模式与埃及阿拉伯语模式之间有何差异？
• RQ2 阿曼阿拉伯语自动形态学和词性标注中的主要错误来源是什么？
• RQ3 能否基于现有框架为阿曼阿拉伯语制定出一致的正字法和形态学标注方案？
• RQ4 预训练工具（如MADAMIRA）在多大程度上可作为阿曼阿拉伯语半自动标注的基线？
• RQ5 大规模、公开可访问的阿曼阿拉伯语语料库在多大程度上能支持未来自然语言处理任务，如方言识别和形态学分析？

主要发现

• MADAMIRA-EGY在所有评估指标上均优于MADAMIRA-MSA，准确率提升范围在4.5至13.3个百分点之间。
• MADAMIRA-EGY中最常见的错误类型是词性标注错误，特别是将看似普通名词或形容词的专有名词误标，占错误总数的52.1%。
• 词干错误占所有错误的18.2%，而未登录词问题导致了16.5%的错误，主要源于未见过的词汇或拼写错误。
• 分词错误（包括错误拆分或合并）约占总错误的13%。
• 对4,000个词进行的金标准人工标注表明，MADAMIRA-EGY可作为阿曼阿拉伯语半自动标注的可行起点。
• Gumar语料库可通过网络界面公开访问，网址为 http://camel.abudhabi.nyu.edu/gumar/，支持全文搜索并附带语言学标注。