[논문 리뷰] A Survey on Recent Advances in Named Entity Recognition from Deep Learning models

Vikas Yadav, Steven Bethard|arXiv (Cornell University)|2019. 10. 25.

Topic Modeling참고 문헌 69인용 수 468

한 줄 요약

이 연구조사는 NER를 위한 심층 신경망 아키텍처를 분석하고, 특징 기반 접근법과 비교하며, 다국어 및 다도메인 NER까지의 신경 모델의 진전과 핵심 통찰을 강조한다.

ABSTRACT

Named Entity Recognition (NER) is a key component in NLP systems for question answering, information retrieval, relation extraction, etc. NER systems have been studied and developed widely for decades, but accurate systems using deep neural networks (NN) have only been introduced in the last few years. We present a comprehensive survey of deep neural network architectures for NER, and contrast them with previous approaches to NER based on feature engineering and other supervised or semi-supervised learning algorithms. Our results highlight the improvements achieved by neural networks, and show how incorporating some of the lessons learned from past work on feature-based NER systems can yield further improvements.

연구 동기 및 목표

• 특징 기반에서 신경망 NER 시스템으로의 진화를 종합하고 신경 아키텍처의 성능 향상을 정량화한다.
• 다양한 언어와 도메인에 걸쳐 신경 접근법을 지식 기반 및 특징 엔지니어링 방법과 대조한다.
• NER 성능을 향상시키는 건축적 패턴과 교훈을 식별한다.
• 신경 NER 시스템의 재현과 확장을 위한 지침과 자료를 제공한다.

제안 방법

• 154편의 논문을 검토하고 신경 아키텍처와 특징 엔지니어링 기반의 베이스라인을 다루기 위해 83편을 선정한다.
• NER 시스템을 지식 기반, 부트스트랩, 특징 엔지니어링, 신경망 접근 방식으로 분류한다.
• 성능 맥락화를 위해 데이터세트, 평가 지표, 공유 과제를 요약한다.
• NER를 위한 어절/단어 수준, 문자 수준, 하이브리드 표현을 비교한다.
• 신경 NER에서 어휘집, gazetteers, 접사의 역할을 강조한다.
• CoNLL, DrugNER, 및 생물의학 데이터세트의 다국어 및 다도메인 성능 추세를 보고한다.

실험 결과

연구 질문

• RQ1 다양한 언어와 도메인에서 전통적인 특징 엔지니어링 모델에 비해 신경망 NER 시스템이 달성하는 성능 향상은 어느 정도인가?
• RQ2 단어 수준, 문자 수준, 하이브리드 표현이 NER 정확도에 대해 어떻게 비교되는가?
• RQ3 어휘집, gazetteers, 및 접사 특징을 신경 NER 아키텍처에 통합하는 영향은 무엇인가?
• RQ4 다국어(CoNLL) 및 생물의학/약물 관련 데이터셋(DrugNER)에서 신경 NER 모델의 성능은 어떠한가?
• RQ5 과거의 특징 기반 NER으로부터 얻은 교훈이 현대의 신경 접근법을 어떻게 더 향상시킬 수 있는가?

주요 결과

• 평가된 데이터세트에서 일반적으로 신경망 NER 시스템이 특징 엔지니어링 모델보다 우수하다.
• 단어+문자 하이브리드 모델은 종종 순수 단어 기반 또는 순수 문자 기반 모델보다 우수하다.
• DrugNER에서 단어+문자 모델은 특징 엔지니어링 기반 베이스라인보다 현저하게 높은 F1 점수를 달성한다.
• 접사 강화 문자+단어 모델이 스페인어, 네덜란드어, 독일어에서 새로운 최첨단 결과를 설정하고 영어 성능에 근접하다.
• 과거의 특징 엔지니어링 통찰(예: 접사)을 신경 NER 시스템에 통합하면 의미 있는 향상을 얻을 수 있다.