[논문 리뷰] Nefnir: A high accuracy lemmatizer for Icelandic

Svanhvít Lilja Ingólfsdóttir, Hrafn Loftsson외 2명|arXiv (Cornell University)|2019. 07. 27.

Natural Language Processing Techniques인용 수 6

한 줄 요약

Nefnir는 대규모 현대 아이슬란드어 활용도(database of Modern Icelandic Inflection, DMII)에서 유도된 어미 치환 규칙을 사용하는 고정확도(open-source) 어형화 도구로, 정확한 품사 태깅이 된 텍스트에서 99.55%의 정확도와 자동 태깅 텍스트에서 96.88%의 정확도를 기록하여 이전의 아이슬란드어 어형화 도구들을 능가한다.

ABSTRACT

Lemmatization, finding the basic morphological form of a word in a corpus, is an important step in many natural language processing tasks when working with morphologically rich languages. We describe and evaluate Nefnir, a new open source lemmatizer for Icelandic. Nefnir uses suffix substitution rules, derived from a large morphological database, to lemmatize tagged text. Evaluation shows that for correctly tagged text, Nefnir obtains an accuracy of 99.55%, and for text tagged with a PoS tagger, the accuracy obtained is 96.88%.

연구 동기 및 목표

• 아이슬란드어의 풍부한 활용형 문법을 다룰 수 있는 고정확도 어형화 도구를 개발하는 것.
• 작은 어휘집 대신 대규모이고 종합적인 형태학적 데이터베이스를 활용하여 이전 도구보다 어형화 정확도를 향상시키는 것.
• 수동 및 자동 품사 태깅 텍스트 모두에서 잘 작동하는 오픈소스 어형화 도구를 만들기 위한 것.
• OOV(어휘 외 단어) 단어, 외래어, 고유명사 등의 과제를 DMII에서 유도된 규칙 기반 일반화를 통해 해결하는 것.

제안 방법

• 580만 개 이상의 활용형 형태를 포함한 형태학적 데이터베이스인 DMII에서 어미 치환 규칙을 유도한다.
• 가장 긴 공통 어미와 일치하는 품사 태그를 기반으로 규칙을 적용하여 어형으로 변환한다.
• DMII 태그와 아이슬란드어 품사 태거가 사용하는 태그를 일치시키기 위해 중간 태그셋을 사용하여 태그셋 간 변환을 수행한다.
• 남아 있는 오류를 최소화하기 위해 반복적으로 규칙을 생성하며, 각 규칙이 최소 두 개 이상의 오류를 수정하도록 보장한다.
• 훈련 데이터를 보완하기 위해 약 4,500개의 비활용형 단어(예: 부사, 전치사) 및 약어 목록을 정제하여 활용한다.
• 단어 수준의 기억을 방지하고 형태학적 패tern에 집중함으로써 과적합을 피하는 규칙 기반 접근 방식을 사용한다.

실험 결과

연구 질문

• RQ1 대규모 형태학적 데이터베이스에서 학습한 어형화 도구가 작은 어휘집에서 학습한 도구보다 아이슬란드어에서 더 높은 정확도를 달성할 수 있는가?
• RQ2 수동으로 수정된 품사 태깅과 자동으로 생성된 태깅 간에 어형화 정확도는 어떻게 달라지는가?
• RQ3 어미 치환 규칙이 어휘 외 단어(복합어 및 신조어 포함)를 얼마나 잘 다룰 수 있는가?
• RQ4 아이슬란드어 어형화에서 주요 오류 유형은 무엇이며, 황금 표준 태깅과 자동 태깅 입력 간에 어떻게 다를까?
• RQ5 형태학적으로 풍부한 언어인 아이슬란드어와 같은 언어에서 규칙 기반 어형화가 하이브리드 또는 기계학습 기반 접근 방식을 능가할 수 있는가?

주요 결과

• 정확한 품사 태깅이 된 텍스트에서 Nefnir는 21,093개 토큰의 기준 코퍼스를 기반으로 99.55%의 어형화 정확도를 기록한다.
• IceTagger를 사용해 자동으로 품사 태깅된 텍스트에서 Nefnir는 96.88%의 정확도를 기록하며, 황금 표준 태깅의 94개 오류 대비 658개의 오류를 기록한다.
• 정확한 태깅 데이터에서 가장 흔한 오류 유형은 외래어와 고유명사이며, 특히 결합된 정관사가 붙은 경우가 많다.
• 자동 태깅 입력에서의 태깅 오류가 어형화 오류의 주요 원인으로, 복수형 데이터형 형태를 잘못 분류하는 경우가 대표적이다.
• 높은 정확도는 DMII 데이터베이스의 풍부함과 포괄성 덕분이며, 이는 드문 단어와 복합어에 대한 효과적인 일반화를 가능하게 한다.
• 비슷한 테스트 세트에서 Nefnir는 DMII 조회 기반의 Lemmald와 CST 어형화 도구를 포함한 이전에 발표된 아이슬란드어 어형화 도구들을 모두 뛰어넘는 정확도를 기록한다.