[논문 리뷰] Improving Named Entity Recognition by Jointly Learning to Disambiguate Morphological Tags

Onur Güngör, Suzan Üsküdarlı외 1명|arXiv (Cornell University)|2018. 07. 17.

Topic Modeling참고 문헌 37인용 수 15

한 줄 요약

이 논문은 문법적으로 풍부한 언어에서 외부 MD 도구에 의존하지 않고 명명된 실체 인식(NER)과 형태소 해석 해소(MD)를 동시에 학습하는 공동 학습 프레임워크를 제안한다. 후보 형태소 분석을 입력으로 사용하여 두 작업을 함께 최적화함으로써, NER 성능은 83.21 F1에 도달하는 등 경쟁력 있는 성능를 달성하면서도, 88.05%의 정확도를 기록한 해소기 또한 생성하여, 공동 학습이 MD 품질을 희생시키지 않고도 NER 성능을 향상시킬 수 있음을 보여준다.

ABSTRACT

Previous studies have shown that linguistic features of a word such as possession, genitive or other grammatical cases can be employed in word representations of a named entity recognition (NER) tagger to improve the performance for morphologically rich languages. However, these taggers require external morphological disambiguation (MD) tools to function which are hard to obtain or non-existent for many languages. In this work, we propose a model which alleviates the need for such disambiguators by jointly learning NER and MD taggers in languages for which one can provide a list of candidate morphological analyses. We show that this can be done independent of the morphological annotation schemes, which differ among languages. Our experiments employing three different model architectures that join these two tasks show that joint learning improves NER performance. Furthermore, the morphological disambiguator's performance is shown to be competitive.

연구 동기 및 목표

• 문법적으로 풍부한 언어에서 NER를 위해 외부 형태소 해석 해소 도구에 의존하지 않도록 하는 것.
• 형태소 태깅과 명명된 실체 인식을 공동으로 학습시켜 NER 성능을 향상시키는 것.
• 언어별로 재구성하지 않고도 다양한 형태소 표기 체계에서 작동하는 모델을 개발하는 것.
• 공동 학습이 형태소 해석 해소 성능이 직접 향상되지 않더라도 NER 성능 향상에 기여하는지 보여주는 것.

제안 방법

• 공동 학습 프레임워크는 공유된 단어 표현과 공유된 은닉층을 사용하여 명명된 실체 인식기와 형태소 해석 해소기를 동시에 학습시킨다.
• 후보 형태소 분석 결과가 입력으로 제공되며, 학습 과정에서 올바른 분석을 선택하도록 모델이 학습한다.
• 세 가지 모델 아키텍처를 평가하였다: joint1(조기 융합), joint2(중간 융합), j_multi(후기 융합를 적용한 다층 Bi-LSTM).
• 모델은 Bi-LSTM 레이어를 사용해 문맥 정보를 인코딩하고, NER의 시퀀스 디코딩을 위해 CRF 레이어를 사용한다.
• 공동 학습 과정은 NER와 MD 목표를 동시에 최적화하며, 하위 레이어에서 공유된 파라미터를 사용한다.
• 계산 자원 제약으로 인해 사전 학습된 단어 임베딩을 사용하지 않았으며, 변동성을 줄이기 위해 10번의 랜덤 초기화 평균을 취해 실험를 수행하였다.

실험 결과

연구 질문

• RQ1 NER와 형태소 해석 해소를 공동으로 학습하면 외부 MD 도구에 의존하지 않고도 NER 성능을 향상시킬 수 있는가?
• RQ2 제안된 공동 모델은 최신 MD 시스템과 비교해 경쟁력 있는 형태소 해석 해석 정확도를 달성하는가?
• RQ3 공동 모델의 성능은 NER에서 골드 표준 형태소 특징을 사용한 경우와 비교해 어떻게 되는가?
• RQ4 형태소 해석 해석 정확도가 향상되지 않았을 경우에도 공동 학습이 NER 성능 향상에 기여하는가?
• RQ5 모델은 재구성 없이도 다양한 형태소 표기 체계에 일반화될 수 있는가?

주요 결과

• j_multi 모델은 83.21의 최고 NER F1 스코어를 기록하여 단독 NER 모델(81.07)을 능가했으며, 골드 표준 형태소 특징을 사용한 모델(83.47)에 근접하는 성능를 보였다.
• 다층 Bi-LSTM를 사용한 공동 모델(j_multi)은 다른 공동 모델들보다 통계적으로 유의미한 향상(유의수준 p < .05)을 보였다. Welch의 t-검정 비교 결과에서 확인되었다.
• j_multi 모델의 형태소 해석 해석 정확도는 88.05%에 도달하여 최신의 MD 시스템과 경쟁 가능한 성능를 보였다.
• 공동 학습은 단독 MD 모델과 비교해 MD 정확도 향상이 유의미하지 않았으며, 최고의 단독 MD 모델은 다른 테스트 세트에서 91.03%의 정확도를 기록했다.
• 공동 학습으로 인한 NER 성능 향상은 모델 크기 증가 때문이 아니었으며, 파rameter 수는 단지 2% 증가에 그쳤다.
• 공동 모델은 골드 형태소 특징을 사용한 모델과 유사한 NER 성능를 달성하여, 공동 학습이 외부 해소기의 효과적인 대체가 될 수 있음을 시사한다.