[논문 리뷰] Curras + Baladi: Towards a Levantine Corpus

Karim El Haff, Mustafa Jarrar외 2명|arXiv (Cornell University)|2022. 05. 19.

Natural Language Processing Techniques인용 수 7

한 줄 요약

이 논문은 레바논 레바논 아랍어를 위한 9.6K 토큰의 형태론적 주석이 부여된 Baladi 코퍼스를 소개하고, 보다 높은 일관성과 호환성을 확보하기 위해 기존의 팔레스타인 Curras 코퍼스를 개선한다. 표준화된 SAMA 어원과 태그를 사용하여 두 코퍼스를 하나의 상호운용 가능한 레바논 아랍어 자료로 통합하였으며, 이는 87%의 상호주석자 일치도(Kappa)와 90.1%의 F1 점수를 기록하여 다양한 방언 간 고급 NLP 작업을 가능하게 한다.

ABSTRACT

The processing of the Arabic language is a complex field of research. This is due to many factors, including the complex and rich morphology of Arabic, its high degree of ambiguity, and the presence of several regional varieties that need to be processed while taking into account their unique characteristics. When its dialects are taken into account, this language pushes the limits of NLP to find solutions to problems posed by its inherent nature. It is a diglossic language; the standard language is used in formal settings and in education and is quite different from the vernacular languages spoken in the different regions and influenced by older languages that were historically spoken in those regions. This should encourage NLP specialists to create dialect-specific corpora such as the Palestinian morphologically annotated Curras corpus of Birzeit University. In this work, we present the Lebanese Corpus Baladi that consists of around 9.6K morphologically annotated tokens. Since Lebanese and Palestinian dialects are part of the same Levantine dialectal continuum, and thus highly mutually intelligible, our proposed corpus was constructed to be used to (1) enrich Curras and transform it into a more general Levantine corpus and (2) improve Curras by solving detected errors.

연구 동기 및 목표

• 레바논 아랍어를 포함한 레바논 아랍어 방언에 대해 고품질의 형태론적 주석이 부여된 코퍼스가 부족한 문제를 해결한다.
• 전체 주석 재편집을 통해 기존 팔레스타인 Curras 코퍼스의 정확도, 정규화 및 일관성을 향상시킨다.
• LDC의 SAMA 어원과 태그셋을 기반으로 하여 팔레스타인어 및 레바논어 주석 간 호환성을 확보한다.
• 남부(팔레스타인) 및 북부(레바논) 레바논 아랍어 방언 간 언어적 격차를 공통 주석 지침과 통합 솔루션 테이블을 통해 메우며 통합한다.
• 공개된 접근이 가능한 상호운용 가능한 자료를 제공하여 아랍어 방언에 대한 NLP 연구를 지원하며, 형태 분석 및 어휘의 의미 해석 분리 작업을 포함한다.

제안 방법

• Baladi에서 9.6K 토큰을 수작업으로 주석 처리하여 접두사, 접미사, 어간, 품사 태그, MSA 및 방언 어원, 성별, 수, 시제, 인칭, 영어 번역어 등을 포함한 형태론적 특징을 기록하였다.
• 기존 MSA 자료와의 일관성을 확보하기 위해 LDC의 SAMA 어원과 태그를 표준 주석 프레임워크로 사용하였다.
• 정확도 향상, 정규화, 품사 태그 통합, SAMA 어원과의 연결을 위해 Curras의 모든 토큰을 재주석 처리하였다.
• Curras에서 유일한 주석 패턴을 저장하기 위해 공통의 '솔루션' 테이블을 구축하여 Baladi 주석에서의 재사용과 일관성을 보장하였다.
• 특히 동사의 성별, 수, 시제 등의 특성에서의 일관성 결함를 수정하기 위해 히우리스틱을 적용하였다.
• Cohen의 Kappa(78.5%)와 F1 점수(90.1%)를 사용하여 상호주석자 일치도를 평가하여 주석 품질을 검증하였다.

실험 결과

연구 질문

• RQ1 레바논 레바논 아랍어 방언에 대해 고품질의 형태론적 주석이 부여된 코퍼스를 개발할 수 있는가? 이는 이전에 자원이 부족했던 방언이다.
• RQ2 팔레스타인 Curras 코퍼스는 현대 표준에 비해 주석의 일관성과 호환성을 얼마나 향상시킬 수 있는가?
• RQ3 서로 밀접하게 관련되어 있지만 서로 다른 레바논 아랍어 방언(팔레스타인어 및 레바논어)을 공통 주석 지침을 사용하여 하나의 상호운용 가능한 코퍼스로 통합할 수 있는가?
• RQ4 표준화된 SAMA 태그와 어원을 사용하여 다양한 방언 간 수작업 형태론적 주석에서 도달할 수 있는 일치 수준은 어느 정도인가?
• RQ5 기능어와 접두어/접미어가 팔레스타인어와 레바논어 간에 어떻게 다를 수 있으며, 이러한 차이를 공통 코퍼스에 체계적으로 기록할 수 있는가?

주요 결과

• Baladi 코퍼스는 Cohen의 Kappa 점수를 사용한 87%의 상호주석자 일치도를 기록한 9,600개의 형태론적 주석이 부여된 토큰을 포함한다.
• 개선된 Curras 코퍼스는 정확도 향상, 정규화 향상, 통합된 품사 태그를 포함해 총 55,900개의 토큰을 포함한다.
• Curras의 고유한 방언 어원 수는 8,510개로 증가하였으며, 이 중 1,012개는 MSA 어원과 대응하지 않는다.
• 공통의 '솔루션' 테이블 구축으로 두 코퍼스 간 주석의 일관성 있는 재사용이 가능해졌으며, 중복을 줄이고 호환성을 향상시켰다.
• 통합된 코퍼스는 약 65,200개의 토큰을 포함하며, 팔레스타인어 및 레바논어 방언을 모두 포함하고 일관된 주석 표준을 적용한다.
• 이 코퍼스들은 웹 포털을 통해 공개되어 있으며, 향후 방언 아랍어에 대한 NLP 연구, 특히 형태 분석 및 어휘의 의미 해석 분리 작업을 지원한다.