[논문 리뷰] A Neural Multi-Task Learning Framework to Jointly Model Medical Named Entity Recognition and Normalization

Sendong Zhao, Ting Liu외 2명|arXiv (Cornell University)|2018. 12. 14.

Topic Modeling참고 문헌 27인용 수 14

한 줄 요약

이 논문은 의료 명명된 엔터티 인식(MER)과 정규화(MEN)를 동시에 수행하기 위해 명시적 피드백 메커니즘을 갖춘 새로운 딥 뉴럴 다중작업 학습 프레임워크를 제안한다. 양방향 LSTM, 문자 수준 특징을 위한 CNN, 그리고 작업 간 상호 피드백을 통합함으로써, 이 모델은 두 가지 기준 데이터셋에서 기존 방법 대비 MER의 F1 점수를 최대 4.53% 향상시키고 MEN의 F1 점수를 최대 5.61% 향상시켜 최신 기술 수준을 달성한다.

ABSTRACT

State-of-the-art studies have demonstrated the superiority of joint modelling over pipeline implementation for medical named entity recognition and normalization due to the mutual benefits between the two processes. To exploit these benefits in a more sophisticated way, we propose a novel deep neural multi-task learning framework with explicit feedback strategies to jointly model recognition and normalization. On one hand, our method benefits from the general representations of both tasks provided by multi-task learning. On the other hand, our method successfully converts hierarchical tasks into a parallel multi-task setting while maintaining the mutual supports between tasks. Both of these aspects improve the model performance. Experimental results demonstrate that our method performs significantly better than state-of-the-art approaches on two publicly available medical literature datasets.

연구 동기 및 목표

• 파ipeline 모델이 의료 명명된 엔터티 인식 및 정규화에서 오류 전파 문제와 상호 이득 활용 부족으로 인한 한계를 해결하기 위해.
• 인식 및 정규화 작업 간 공유 표현과 상호 피드백을 활용하는 통합 모델링 접근법을 개발하기 위해.
• 문자 수준 및 의미 수준 특징을 통합한 딥 뉴럴 아키텍처를 통해 MER 및 MEN 성능을 향상시키기 위해.
• 병렬 다중작업 학습 설계를 통해 인식 및 정규화 출력 간 경계 불일치 문제를 완화하기 위해.

제안 방법

• 모델링은 하위 레이어 공유 표현을 공유하는 병렬 작업으로서 인식 및 정규화를 동시에 처리하는 다중작업 학습 아키텍처를 사용한다.
• 의료 텍스트의 순차적 의존성을 포착하기 위해 양방향 LSTM을 사용하여 맥락 모델링을 향상시킨다.
• 특정 약물명과 같은 국소적 문자 수준 특징(예: 'Zolmitriptan' 또는 'Zomig')을 추출하기 위해 합성곱 신경망(CNN)을 적용한다.
• 명시적 피드백 메커니즘을 도입: 인식 작업의 출력이 정규화에 영향을 주고, 그 반대도 성립하여 상호 보완적 지원을 가능하게 한다.
• PubMed 및 전문 기사 데이터에서 사전 훈련된 50차원 Word2Vec 임베딩을 사용하며, 이는 이 작업들에서 GloVe나 Senna보다 우수한 성능을 보였다.
• 시퀀스 레이블링을 위해 공동 CRF 레이어를 사용하여 시퀀스 전체에 걸쳐 일관된 태깅을 보장하고 경계 불일치를 감소시킨다.

실험 결과

연구 질문

• RQ1 명시적 피드백 메커니즘을 갖춘 딥 뉴럴 다중작업 학습 프레임워크가 파이프라인 모델이나 단순 통합 모델에 비해 의료 명명된 엔터티 인식 및 정규화 성능을 향상시킬 수 있는가?
• RQ2 CNN을 통한 문자 수준 특징 통합과 Bi-LSTM를 통한 순차적 모델링이 인식 및 정규화 정확도를 어떻게 향상시키는가?
• RQ3 인식 및 정규화 간 상호 피드백이 예측된 엔터티 스팬 간 경계 불일치를 어느 정도 감소시키는가?
• RQ4 의료 분야에 특화된 사전 훈련된 임베딩(예: PubMed 기반 Word2Vec)을 사용할 경우 일반 도메인 임베딩보다 의료 NLP 작업에서 더 높은 성능을 달성하는가?
• RQ5 훈련 중에 보이지 않았지만 임베딩 공간에 존재하는 OOV(Out-of-Vocabulary) 엔터티에 대해 모델은 어떻게 성능을 내는가?

주요 결과

• 제안된 MTL-MEN&MER_feedback 모델은 BC5CDR 및 NCBI Disease 데이터셋에서 최신 기술 대비 의료 명명된 엔터티 인식의 F1 점수를 4.53%p 향상시키고, 정규화 작업의 F1 점수를 5.61%p 향상시켰다.
• 기본 모델인 Bi-LSTM-CNN-CRF 대비 NCBI 코퍼스에서 경계 불일치를 78.5% 감소시키고, BC5CDR 코퍼스에서는 79.7% 감소시켰다.
• PubMed 및 전문 기사에서 훈련된 Word2Vec 임베딩이 GloVe나 Senna보다 양쪽 작업에서 가장 우수한 성능을 보였으며, 의료 엔터티와의 어휘 일치도 우수하기 때문일 것이다.
• 모델은 포함어(Vocabulary) 내(IV) 및 훈련 중에 보이지 않은(OOTV) 엔터티에서 가장 큰 성능 향상을 보였으며, 희귀 또는 미리보지 않은 용어에 대해 강력한 일반화 능력과 내구성을 보였다.
• 오차 분석 결과, OOBV(양방향 어휘 외) 엔터티에 대해 모델이 뚜렷한 성능 향상을 보였으며, NCBI에서 MER F1 점수는 4.47%p 향상되었고, BC5CDR에서는 4.08%p 향상되었다. 이는 사전 훈련된 임베딩과 피드백 메커니즘의 효과적인 활용을 보여준다.