[论文解读] Curras + Baladi: Towards a Levantine Corpus

Karim El Haff, Mustafa Jarrar+2 more|arXiv (Cornell University)|May 19, 2022

Natural Language Processing Techniques被引用 7

一句话总结

本文介绍了 Baladi，一个包含 9.6K 个词元的黎巴嫩黎凡特阿拉伯语形态标注语料库，以及对现有巴勒斯坦 Curras 语料库的修订，以提升一致性和兼容性。通过采用标准化的 SAMA 词根和词性标注，两个语料库被整合为一个统一的、可互操作的黎凡特阿拉伯语资源，其标注一致性达到 87%（Kappa）和 90.1% 的 F1 分数，支持跨方言的高级自然语言处理任务。

ABSTRACT

The processing of the Arabic language is a complex field of research. This is due to many factors, including the complex and rich morphology of Arabic, its high degree of ambiguity, and the presence of several regional varieties that need to be processed while taking into account their unique characteristics. When its dialects are taken into account, this language pushes the limits of NLP to find solutions to problems posed by its inherent nature. It is a diglossic language; the standard language is used in formal settings and in education and is quite different from the vernacular languages spoken in the different regions and influenced by older languages that were historically spoken in those regions. This should encourage NLP specialists to create dialect-specific corpora such as the Palestinian morphologically annotated Curras corpus of Birzeit University. In this work, we present the Lebanese Corpus Baladi that consists of around 9.6K morphologically annotated tokens. Since Lebanese and Palestinian dialects are part of the same Levantine dialectal continuum, and thus highly mutually intelligible, our proposed corpus was constructed to be used to (1) enrich Curras and transform it into a more general Levantine corpus and (2) improve Curras by solving detected errors.

研究动机与目标

• 解决黎凡特阿拉伯语方言（尤其是黎巴嫩阿拉伯语）高质量、形态标注语料库稀缺的问题。
• 通过全面修订标注，提高现有巴勒斯坦 Curras 语料库的准确性、标准化程度和一致性。
• 通过与 LDC 的 SAMA 词根和词性标注集对齐，确保巴勒斯坦与黎巴嫩方言标注的兼容性。
• 通过共享的标注指南和统一的解决方案表格，弥合南部（巴勒斯坦）与北部（黎巴嫩）黎凡特方言之间的语言差异。
• 创建一个公开可访问、可互操作的资源，以支持阿拉伯语方言的自然语言处理研究，包括形态分析和词义消歧。

提出的方法

• 手动标注 Baladi 中的 9.6K 个词元，涵盖前缀、后缀、词干、词性标签、标准现代阿拉伯语（MSA）和方言词根、性别、数、体、人称以及英文释义等形态特征。
• 采用 LDC 的 SAMA 词根和标签作为标准标注框架，以确保与现有标准现代阿拉伯语资源的一致性。
• 通过重新标注所有词元以提高准确性、标准化程度、统一词性标签，并与 SAMA 词根关联，对 Curras 进行修订。
• 创建共享的“解决方案”表格，以存储来自 Curras 的独特标注模式，从而实现在 Baladi 标注中的一致复用。
• 应用启发式规则纠正性别、数和体等特征中的不一致性，特别是动词的标注。
• 使用 Cohen’s Kappa（78.5%）和 F1 分数（90.1%）评估标注者间的一致性，以验证标注质量。

实验结果

研究问题

• RQ1 能否为此前资源匮乏的黎巴嫩黎凡特阿拉伯语方言开发一个高质量的形态标注语料库？
• RQ2 在多大程度上可以通过修订使巴勒斯坦 Curras 语料库的标注一致性与现代标准保持一致？
• RQ3 如何通过共享的标注指南，将两种密切相关但不同的黎凡特方言（巴勒斯坦与黎巴嫩）统一为一个可互操作的语料库？
• RQ4 在使用标准化的 SAMA 标签和词根时，跨方言的手动形态标注能达到多高的一致性水平？
• RQ5 功能词和词缀在巴勒斯坦与黎巴嫩方言中的差异程度如何？这些差异能否在共享语料库中系统性地捕捉？

主要发现

• Baladi 语料库包含 9,600 个形态标注词元，使用 Cohen’s Kappa 得分达到 87% 的标注者间一致性。
• 修订后的 Curras 语料库现包含 55,900 个词元，标注一致性、标准化程度和统一的词性标签均得到提升。
• Curras 中的唯一方言词根数量增至 8,510 个，其中 1,012 个无对应的 MSA 词根。
• 通过创建共享的“解决方案”表格，实现在两个语料库中的一致标注复用，减少冗余并提升兼容性。
• 合并后的语料库形成一个约 65,200 个词元的统一黎凡特阿拉伯语资源，涵盖巴勒斯坦和黎巴嫩方言，且标注标准一致。
• 该语料库可通过网络门户公开获取，支持未来在方言阿拉伯语方面的自然语言处理研究，包括形态分析和词义消歧。