[논문 리뷰] Word Segmentation and Morphological Parsing for Sanskrit

Jingwen Li, Leander Girrbach|arXiv (Cornell University)|2022. 01. 30.

Natural Language Processing Techniques인용 수 10

한 줄 요약

이 논문은 편집 연산을 통한 시퀀스 레이블링으로서의 분할 모델링과 변형형태에서 어간을 유도하기 위한 형태론적 규칙 예측을 통해 사نس키리트어 단어 분할과 형태론적 분석에 대한 새로운 접근법을 제시한다. 저자들은 종합적인 분할 및 분석에서 가장 높은 F1 스코어(80.018)를 기록한 엔드 투 엔드 학습 가능한 파이프라인을 도입하여 WSMP 해커톤 2021에서 다른 방법들을 압도한다.

ABSTRACT

We describe our participation in the Word Segmentation and Morphological Parsing (WSMP) for Sanskrit hackathon. We approach the word segmentation task as a sequence labelling task by predicting edit operations from which segmentations are derived. We approach the morphological analysis task by predicting morphological tags and rules that transform inflected words into their corresponding stems. Also, we propose an end-to-end trainable pipeline model for joint segmentation and morphological analysis. Our model performed best in the joint segmentation and analysis subtask (80.018 F1 score) and performed second best in the individual subtasks (segmentation: 96.189 F1 score / analysis: 69.180 F1 score). Finally, we analyse errors made by our models and suggest future work and possible improvements regarding data and evaluation.

연구 동기 및 목표

• 모래디 현상과 높은 형태론적 복잡성으로 인해 사스키리트어에서 단어 분할 및 형태론적 분석에 도전하는 문제를 해결한다.
• 변형형태에서 음운적 평준화와 동음이의어로 인한 분할 및 분석의 모호성을 해소한다.
• 분할과 분석 간의 표현 공유를 통해 강건성을 향상시키는 공동 학습 프레임워크를 개발한다.
• 기존 인플렉션 파라디그마를 조합하여 알려지지 않은 어형(OOV) 형태로의 일반화를 향상시키기 위해 규칙 기반 어간 재구성 기법을 활용한다.
• 현재 평가 지표의 한계를 식별하고, 더 나은 언어학적 인식 평가 전략을 제안한다.

제안 방법

• 정확한 분할을 도출하기 위해 편집 연산(삽입, 삭제, 치환)을 예측하는 방식으로 단어 분할을 시퀀스 레이블링 작업으로 모델링한다.
• 변형형태에서 어간으로의 매핑을 가능하게 하는 형태론적 태그와 변환 규칙을 예측함으로써 형태론적 분석을 접근한다.
• 공유 인코더 표현을 사용하여 분할과 형태론적 분석을 공동 최적화하는 엔드 투 엔드 학습 가능한 파이프라인을 설계한다.
• 기존의 알려진 인플렉션 파라디그마를 조합하여 알려지지 않은 어형(OOV) 형태로의 일반화를 위해 규칙 기반 어간 재구성 기법을 사용한다.
• 해독 과정에서 어휘 사전 검색을 통해 언어학 지식을 활용하여 잘못된 예측(예: 성별, 어간 형태)을 수정한다.
• 언어학적으로 의미 있는 테스트 서브셋(예: 반복어, 모호한 케이스)을 분석하기 위해 서브셋 기반 평가 전략을 제안한다.

실험 결과

연구 질문

• RQ1 모래디 영향을 받는 사스키리트어 텍스트에서 분할 성능을 향상시키기 위해 편집 연산을 예측하는 것이 가능한가?
• RQ2 학습된 형태론적 규칙가 사스키리트어에서 알려지지 않은 어형(OOV) 형태로 얼마나 잘 일반화되는가?
• RQ3 분할과 형태론적 분석의 공동 학습이 순차적 파이프라인에 비해 오류 전파를 얼마나 줄이는가?
• RQ4 현재 모델의 형태론적 분석에서 주요 실패 원인은 무엇이며, 평가를 더 언어학적으로 의미 있는 방식으로 개선할 수 있는가?
• RQ5 규칙 기반 어간 재구성 기법이 자원이 적은 형태론적 분석에서 모델의 강건성과 해석 가능성 향상에 기여할 수 있는가?

주요 결과

• 제안된 엔드 투 엔드 공동 모델은 WSMP 해커톤에서 종합 분할 및 분석 과제에서 가장 높은 F1 스코어 80.018을 기록하여 모든 다른 참가자들을 압도했다.
• 모델은 분할 F1 스코어 96.189와 분석 F1 스코어 69.180을 기록하여 각각의 개별 과제에서 둘째로 높은 순위를 차지했다.
• 오류 분석 결과, 손상된 학습 데이터로 인해 잘못된 형태론적 규칙가 유도되었으며, 성별 예측 오류가 빈번하게 발생하여 어휘 사전 통합을 통한 향상 여지가 있음을 시사했다.
• 저자들은 공식 평가 지표의 결함을 식별하였으며, 이 지표는 의미적 또는 문법적 정확성을 고려하지 않고 겹치는 문자 수를 세어 유사도 점수를 산정함으로써 오해의 소지가 있는 유사도 점수를 초래한다.
• 어휘적 복잡도(예: 반복어, 모호한 케이스)에 따라 테스트 세트의 서브셋을 분류한 결과 성능이 일관되지 않음을 확인하였으며, 이는 세분화된 평가의 필요성을 강조한다.
• 규칙 기반 어간 보간을 통한 OOV 형태로의 일반화 능력이 검증되었으며, 이는 자원이 적은 형태론적 학습 잠재력을 보여주었다.