[논문 리뷰] Spell Correction for Azerbaijani Language using Deep Neural Networks

Ahmad Ahmadzade, Saber Malekzadeh|arXiv (Cornell University)|2021. 02. 05.

Natural Language Processing Techniques참고 문헌 13인용 수 8

한 줄 요약

이 논문은 아제르바이잔어와 같은 형태적 복잡한 언어를 위한 순서에서 순서로의 딥러닝 모델을 제안하며, 주목기반 메커니즘을 탑재한다. 12,000개의 문장 쌍으로 훈련된 모델은 실제 실생활 오타에서 거리 0일 때 75%의 F1 스코어, 거리 1일 때 90%, 거리 2일 때 96%를 기록하여, 기존 사전 기반 방법에 비해 형태적 풍부한 언어에서 효과적임을 입증한다.

ABSTRACT

Spell correction is used to detect and correct orthographic mistakes in texts. Most of the time, traditional dictionary lookup with string similarity methods is suitable for the languages that have a less complex structure such as the English language. However, the Azerbaijani language has a more complex structure and due to its morphological structure, the derivation of words is plenty that several words are derived from adding suffices, affixes to the words. Therefore, in this paper sequence to sequence model with an attention mechanism is used to develop spelling correction for Azerbaijani. Total 12000 wrong and correct sentence pairs used for training, and the model is tested on 1000 real-world misspelled words and F1-score results are 75% for distance 0, 90% for distance 1, and 96% for distance 2.

연구 동기 및 목표

• 아제르바이잔어와 같은 형태적으로 풍부한 언어로서 복잡한 어형 변화를 가지는 철자 교정 문제를 해결하기 위해.
• 형태적 변화(굴곡형 및 파생형)에 어려움을 겪는 전통적인 사전 기반 방법의 한계를 극복하기 위해.
• 아제르바이잔어에서 복잡한 철자 교정 패턴을 학습할 수 있는 신경 시퀀스-투-시퀀스 모델을 개발하기 위해.
• 실생활 오타에서 모델을 평가하고 다양한 편집 거리에서 F1 스코어를 측정하기 위해.
• 아제르바이잔어와 같은 저자원, 형태적으로 복잡한 언어에 대해 엔드 투 엔드 신경망 모델의 가능성을 입증하기 위해.

제안 방법

• 오타가 난 문장을 그 정확한 형태로 매핑하기 위해 주목기반 메커니즘을 갖춘 순서에서 순서로의 신경망을 사용한다.
• 모델은 아제르바이잔어로 12,000개의 잘못된 문장과 올바른 문장 쌍으로 훈련된다.
• 아키텍처는 양방향 LSTM 레이어를 사용해 문맥을 인코딩하고, 자동회귀적 디코딩을 수행하는 인코더-디코더 구조를 사용한다.
• 주목기반 메커니즘은 교정 생성 중에 입력 시퀀스의 관련 부분에 초점을 맞출 수 있도록 한다.
• 모델은 교차 엔트로피 손실을 사용해 훈련 세트에서 예측 오차를 최소화하도록 정밀 조정된다.
• 평가 작업은 1,000개의 실생활 오타 단어로 구성된 검증 세트에서 수행되며, 편집 거리 0, 1, 2에서 F1 스코어가 계산된다.

실험 결과

연구 질문

• RQ1 순서에서 순서로의 딥러닝 모델은 아제르바이잔어와 같은 형태적으로 복잡한 언어에서 철자 오류를 효과적으로 교정할 수 있는가?
• RQ2 기존의 사전 기반 접근법과 비교해 실생활 오타에서 모델의 성능은 어떠한가?
• RQ3 편집 거리가 철자 교정 모델의 F1 스코어에 미치는 영향은 무엇인가?
• RQ4 주목기반 메커니즘이 형태적으로 풍부한 언어 입력에서 교정 정확도를 얼마나 향상시키는가?
• RQ5 제안된 신경 기반 접근법은 아제르바이잔어와 같은 저자원, 통합형 언어에 대해 확장 가능하고 효과적인가?

주요 결과

• 편집 거리가 0인 철자 교정에 대해 F1 스코어가 75%를 기록하여 정확한 일치에 대해 높은 정밀도를 보였다.
• 편집 거리가 1일 경우 F1 스코어는 90%로 상승하여 단일 문자 또는 단일 음소 오류에 대해 강력한 성능을 보였다.
• 편집 거리가 2 이내인 오류에 대해서는 F1 스코어가 96%에 도달하여 경미하고 중간 정도의 철자 변형에 대해 뛰어난 내성성을 보였다.
• 결과는 주목기반 시퀀스-투-시퀀스 모델이 아제르바이잔어와 같은 형태적으로 풍부한 언어에서 기존 사전 기반 방법보다 뛰어난 성능을 보임을 시사한다.
• 모델은 파생형 및 굴곡형 형태를 효과적으로 처리하여 통합형 언어 처리에 적합함을 시사한다.
• 높은 편집 거리에서의 성능 향상은 모델이 철자 변형 패턴을 일반화하는 능력을 보여준다.