[논문 리뷰] Morphological Embeddings for Named Entity Recognition in Morphologically Rich Languages

Onur Güngör, Eray Yıldız외 2명|arXiv (Cornell University)|2017. 06. 01.

Topic Modeling참고 문헌 29인용 수 8

한 줄 요약

이 논문은 터키어와 체코어와 같이 형태소가 풍부한 언어에서 명명된 엔티티 인식(NER)을 향상시키기 위해 형태소 분석을 신경망 순서 모델에 통합하는 새로운 형태소 임베딩 프레임워크를 제안한다. 문자 수준 임베딩과 Bi-LSTM 기반 형태소 임베딩을 결합한 이 방법은 터키어에서 93.59%의 최고 성능 F1 스코어와 체코어에서 79.59%의 최고 성능 F1 스코어를 기록하여 수작업 특징이나 간단한 임베딩에 의존하는 이전 방법들을 능가한다.

ABSTRACT

In this work, we present new state-of-the-art results of 93.59,% and 79.59,% for Turkish and Czech named entity recognition based on the model of (Lample et al., 2016). We contribute by proposing several schemes for representing the morphological analysis of a word in the context of named entity recognition. We show that a concatenation of this representation with the word and character embeddings improves the performance. The effect of these representation schemes on the tagging performance is also investigated.

연구 동기 및 목표

• 형태소가 풍부한 언어에서 신경망 순서 모델에 형태소 분석을 통합함으로써 명명된 엔티티 인식(NER)을 향상시키기 위해.
• 다양한 형태소 임베딩 구성 방식이 NER 성능에 미치는 영향을 조사하기 위해.
• 형태소 임베딩이 문자 수준 임베딩과 비교했을 때의 효과성을 평가하기 위해.
• 종합적인 딥 러닝과 구조화된 형태소 표현을 사용하여 터키어와 체코어 NER의 새로운 최고 성능 기준을 설정하기 위해.

제안 방법

• 형태소 태그를 기반으로 훈련된 Bi-LSTM 네트워크에서 유도된 형태소 임베딩을 포함함으로써 Lample 등(2016)의 NER 프레임워크를 확장한다.
• 각 단어의 형태소 태그(예: 품사, 격조사, 시제 등)의 시퀀스를 Bi-LSTM를 사용해 인코딩함으로써 형태소 임베딩을 생성한다.
• 최종 단어 표현은 사전 학습된 단어 임베딩, 문자 수준 임베딩(Bi-LSTM를 통해 문자 시퀀스를 처리함), 그리고 형태소 임베딩을 연결하여 구성된다.
• 양방향 LSTM을 사용해 좌우 및 우측에서 좌측으로의 문맥을 모델링하고, 이후 완전 연결층과 CRF를 통해 시퀀스 레이블링을 수행한다.
• 다양한 형태소 임베딩 구성(예: 어간 기반(ME(WR)), 어형 기반(ME(WOR)), 문자 수준 형태소 분석 기반(ME(CHAR)))를 평가한다.
• 성능 평가를 위해 터키어와 체코어 데이터셋을 사용하며, 표준 CoNLL 스타일 테스트 세트에서 F1 스코어로 측정한다.

실험 결과

연구 질문

• RQ1 형태소 임베딩을 통합함으로써 형태소가 풍부한 언어인 터키어와 체코어에서 NER 성능이 어떻게 향상되는가?
• RQ2 어간 기반, 어형 기반, 문자 기반 중 어떤 형태소 임베딩 구성이 가장 높은 성능을 낼 수 있는가?
• RQ3 동일한 NER 프레임워크 내에서 형태소 임베딩은 문자 수준 임베딩에 비해 얼마나 효과적인가?
• RQ4 형태소 임베딩가 문자 수준 임베딩을 얼마나 대체하거나 보완하는가?

주요 결과

• 제안된 방법은 터키어 NER에서 이전 수작업 특징이나 단순 임베딩을 사용한 방법들을 능가하는 새로운 최고 성능 F1 스코어 93.59%를 기록하였다.
• 체코어에서는 F1 스코어 79.59%를 기록하여 외부 어휘사전이나 CRF 기반 시스템을 사용한 이전 연구들보다도 뚜렷한 향상을 이룩하였다.
• 문자 수준 임베딩과 어형 기반 형태소 임베딩(ME(WOR))의 조합에서 가장 높은 성능이 달성되었으며, 이는 상호 보완적인 정보 획득을 의미한다.
• 문자 수준 형태소 분석 기반 형태소 임베딩(ME(CHAR))는 형태소 태깅 오류에 대해 뛰어난 내성성을 보이며, 일부 설정에서는 어간 기반(ME(WR)) 및 어형 기반(ME(WR_ADB)) 구성보다 뛰어난 성능을 보였다.
• 문자 임베딩의 개선에도 불구하고, 문자 임베딩와 형태소 임베딩의 조합이 가장 높은 성능을 기록하여 두 임베딩 간의 정보가 중복되지 않는다는 것을 시사한다.
• McNemar의 검정 결과, 상위 두 설정(93.59% 및 93.37%) 간에 통계적으로 유의미한 차이가 없음을 확인하여, 문자 임베딩이 이미 존재하는 상황에서 형태소 임베딩의 성능 향상 폭은 미미하다는 것을 시사한다.