[논문 리뷰] Validation and Normalization of DCS corpus using Sanskrit Heritage tools to build a tagged Gold Corpus

Sriram Krishnan, Amba Kulkarni외 1명|arXiv (Cornell University)|2020. 05. 13.

Natural Language Processing Techniques참고 문헌 11인용 수 4

한 줄 요약

이 논문은 디지털 산스크리트어 문헌집(DCS)과 산스크리트어 유산 엔진 사이의 정교한 정렬 과정을 제시하여 표준화된, 형태소 태그가 부여되고 분절된 골드 코퍼스를 구축한다. 복합어, 파생어, 불변어에 특히 초점을 맞춰 어간 분석, 분절, 품사 태그에 대한 언어학적 불일치를 해결함으로써, 77%의 어간 매핑률과 42%의 단일 매핑률을 달성하여 산스크리트어 NLP 작업을 위한 코퍼스 품질을 크게 향상시킨다.

ABSTRACT

The Digital Corpus of Sanskrit records around 650,000 sentences along with their morphological and lexical tagging. But inconsistencies in morphological analysis, and in providing crucial information like the segmented word, urges the need for standardization and validation of this corpus. Automating the validation process requires efficient analyzers which also provide the missing information. The Sanskrit Heritage Engine's Reader produces all possible segmentations with morphological and lexical analyses. Aligning these systems would help us in recording the linguistic differences, which can be used to update these systems to produce standardized results and will also provide a Gold corpus tagged with complete morphological and lexical information along with the segmented words. Krishna et al. (2017) aligned 115,000 sentences, considering some of the linguistic differences. As both these systems have evolved significantly, the alignment is done again considering all the remaining linguistic differences between these systems. This paper describes the modified alignment process in detail and records the additional linguistic differences observed. Reference: Amrith Krishna, Pavankumar Satuluri, and Pawan Goyal. 2017. A dataset for Sanskrit word segmentation. In Proceedings of the Joint SIGHUM Workshop on Computational Linguistics for Cultural Heritage, Social Sciences, Humanities and Literature, page 105-114. Association for Computational Linguistics, August.

연구 동기 및 목표

• 디지털 산스크리트어 문헌집(DCS) 내 형태소 분석과 어절 분절에 대한 일관성 없는 문제를 해결하여 신뢰할 수 있는 NLP 응용 프로그램을 가능하게 하기 위해.
• 산스크리트어 유산 엔진의 더 정교한 언어학적 출력과 DCS 코퍼스를 정렬함으로써 어간, 품사, 분절 레이블의 일관성을 확보하기 위해.
• 특히 복합어, 파생어, 불변어에 대해 DCS 태깅 체계와 유산 엔진의 분석 간 언어학적 불일치를 식별하고 해결하기 위해.
• 기계학습 및 평가에 적합한 완전한 형태소 및 어휘 정보를 포함한 고품질 태깅된 골드 코퍼스를 생산하기 위해.
• 두 시스템 간 분석 차이로 인한 모호성과 다중 매핑을 줄이기 위해 분석 차이를 해결함으로써 어간 매핑의 모호성을 감소시키기 위해.

제안 방법

• 유한 상태 기술과 효과적 아이렌버그 기계를 사용하여 산스크리트어 유산 엔진의 리더를 적용해 가능한 모든 분절 및 형태소 분석을 생성하기 위해.
• DCS 태깅과 유산 엔진 출력 간의 체계적 정렬을 수행하여 어간, 품사, 형태소 태그에 중점을 두기 위해.
• 복합어 분석, 2차 파생어(taddhitāntas), 불변어(예: api 등)와 같은 언어학적 차이를 분류하고 정규화하여 일관된 태깅을 보장하기 위해.
• 언어학적 타당성과 통계적 빈도를 우선 고려하여 정렬을 우선순위화하고, 매칭되지 않거나 모호하게 매핑된 어간은 수동 검토를 위해 표시하기 위해.
• 참여자 형태와 명사 형태 간의 차이(예: īśāna) 또는 복합어와 파생어 처리 간의 차이(예: brahmamayī)와 같은 분석 불일치를 기록하고 분류하여 코퍼스 및 도구 개선에 기여하기 위해.
• 십억 개의 가능한 분절을 효율적으로 비교하고 매핑하기 위해 공통의 압축 표현을 사용하며, 통계적 필터링을 통해 가능성이 높은 분석을 우선순위로 정하기 위해.

실험 결과

연구 질문

• RQ1 DCS 코퍼스 내 형태소 및 어휘 태깅의 일관성 없는 문제를 어떻게 시스템적으로 식별하고 해결할 수 있는가?
• RQ2 복합어와 파생어에 특히 초점을 맞춰 DCS 태깅 체계와 산스크리트어 유산 엔진의 분석 간 핵심 언어학적 불일치는 무엇인가?
• RQ3 정렬 과정이 두 시스템 간 어간, 품사, 분절 레이블의 표준화에 얼마나 효과적인가?
• RQ4 불변어(예: api) 및 형태소 파라디그마(예: 분사형 대비 작용자 명사) 처리 방식의 차이가 정렬 정확도에 어떤 영향을 미치는가?
• RQ5 이 정렬 과정을 통해 코퍼스 품질 향상과 도구 간 상호운용성 향상은 어느 정도 달성될 수 있는가?

주요 결과

• 분석한 119,502개 문장 중 92,781개가 어간 매핑을 완전히 달성하여 DCS와 산스크리트어 유산 엔진 간 정렬 성공률이 77%에 이르렀다.
• 성공적으로 매핑된 문장 중 39,793개는 각 어절당 정확히 하나의 매칭 어간을 가지며, 이는 단일 매핑 비율이 42%임을 나타낸다.
• 12,639개의 문장은 전체적으로 매핑되지 않았으며, 적어도 하나의 어간이 유산 엔진에 존재하지 않아서였다. 주로 prameyatvam과 nirguṇatvam와 같은 단어의 어휘 항목 누락으로 인한 것이다.
• 52,988개의 문장에서 다중 매핑이 발생했으며, 주로 복합어 대 비복합어 분석의 언어학적 모호성(예: dvija-uttamaḥ 대 dvi-ja-uttamaḥ) 또는 동일한 단어에 대한 분석 방식의 차이(예: īśāna를 분사형 또는 명사형으로 간주하는 것)로 인한 것이다.
• 수정된 상태이지만 여전히 어간이 매핑되지 않은 문장 14,082개를 식별하여 2차 파생어와 형태소 변형의 정렬에 지속적인 과제가 있음을 확인하였다.
• 주요 문제로는 taddhitāntas의 일관성 없는 처리(예: brahmamayī를 복합어로 간주하는지 파생어로 간주하는지), 형태소 태깅의 차이(예: ‘iic’ 대 ‘pfp. iic.’), 불변어의 잘못된 분류(예: DCS에서는 ‘ind.’로 분류된 api가 유산 엔진에선 ‘conj.’ 또는 ‘prep.’로 분류됨)가 있었다.