[논문 리뷰] Knowledge-Based Biomedical Word Sense Disambiguation with Neural Concept Embeddings and Distant Supervision.

A. K. M. Sabbir, Antonio Jimeno Yepes외 1명|arXiv (Cornell University)|2016. 10. 26.

Topic Modeling참고 문헌 40인용 수 8

한 줄 요약

이 논문은 수동 레이블링 데이터 없이 MetaMap을 사용하여 개념 벡터를 추출하고 신경 개념 임베딩과 원거리 감독을 활용한 지식 기반 생물의학적 단어의 의미 해석 해제 방법을 제안한다. MSH WSD 데이터셋에서 92.24%의 정확도를 달성하여 이전의 지식 기반 또는 비지도 학습 방법보다 3% 높으며, 이는 레이블이 없는 텍스트로부터의 표현 학습이 생물의학 분야에서 지도 학습 방법과 맞먹을 수 있음을 보여준다.

ABSTRACT

Biomedical word sense disambiguation (WSD) is an important intermediate task in many natural language processing applications such as named entity recognition, syntactic parsing, and relation extraction. In this paper, we employ knowledge-based approaches that also exploit recent advances in neural word/concept embeddings to improve over the state-of-the-art in biomedical WSD using the MSH WSD dataset as the test set. Our methods involve distant supervision - we do not use any hand-labeled examples for WSD to build our prediction models; however, we employ an existing well known named entity recognition and concept mapping program, MetaMap, to obtain our concept vectors. Over the MSH WSD dataset, our linear time (in terms of numbers of senses and words in the test instance) method achieves an accuracy of 92.24% which is an absolute 3% improvement over the best known results obtained via unsupervised or knowledge-based means. A more expensive approach that we developed relies on a nearest neighbor framework and achieves an accuracy of 94.34%. Employing dense vector representations learned from unlabeled free text has been shown to benefit many language processing tasks recently and our efforts show that biomedical WSD is no exception to this trend. For a complex and rapidly evolving domain such as biomedicine, building labeled datasets for larger sets of ambiguous terms may be impractical. Here we demonstrate that distant supervision that leverages recent advances in representation learning can rival supervised approaches in biomedical WSD.

연구 동기 및 목표

• 신경 개념 임베딩으로 향상된 지식 기반 방법을 사용하여 생물의학적 단어의 의미 해석 해제(WSD) 성능을 향상시키는 것.
• 생물의학 분야에서 대규모 레이블링 데이터셋을 구축하는 것이 비현실적임을 고려하여 수동 주석을 피하는 것.
• 사전에 학습된 개념 표현을 사용한 원거리 감독이 지도 학습 기반 WSD 방법과 비슷하거나 뛰어나게 성능을 내는지 평가하는 것.
• 레이블이 없는 생물의학 텍스트로부터 유도된 조밀한 벡터 표현이 WSD 정확도 향상에 얼마나 효과적인지 입증하는 것.

제안 방법

• 메서드는 생물의학 용어를 UMLS 개념으로 매핑하기 위해 MetaMap을 사용하여 각 모호한 용어의 개념 벡터를 생성한다.
• 대규모 레이블이 없는 생물의학 텍스트로부터 신경 개념 임베딩을 학습하여 개념 간의 의미적 관계를 포착한다.
• 모호한 용어와 관련된 가장 빈도가 높은 UMLS 개념을 대체 레이블로 사용하여 원거리 감독을 적용한다.
• 문맥 벡터와 개념 임베딩 간의 코사인 유사도를 기반으로 선형 시간 알고리즘으로 의미 점수를 계산한다.
• 더 계산 비용이 큰 최근접 이웃 프레임워크도 구현하여, k개의 최근접 개념 벡터를 사용해 정확한 의미를 예측한다.
• 이 접근법은 수동으로 레이블링된 WSD 예제를 완전히 회피하며, 기존의 명명된 엔터티 인식 및 개념 매핑 도구에만 의존한다.

실험 결과

연구 질문

• RQ1 수동으로 레이블링된 학습 데이터에 의존하지 않고도 신경 개념 임베딩이 생물의학적 단어의 의미 해석 해제 성능을 향상시킬 수 있는가?
• RQ2 생물의학 분야에서 MetaMap에서 유도된 개념 매핑을 사용한 원거리 감독은 지도 학습 또는 비지도 학습 기반 WSD 방법과 비교해 어떻게 성능을 내는가?
• RQ3 복잡하고 변화가 빠른 도메인인 생물의학 분야에서 레이블이 없는 텍스트로부터 유도된 조밀한 표현이 WSD 성능 향상에 얼마나 기여하는가?
• RQ4 개념 유사도 기반 선형 시간 알고리즘이 더 복잡한 최근접 이웃 접근 방식에 비해 정확도와 효율성 측면에서 뛰어나게 성능을 내는가?

주요 결과

• 선형 시간 알고리즘은 MSH WSD 데이터셋에서 92.24%의 정확도를 달성하여 이전의 최고의 지식 기반 또는 비지도 학습 방법보다 3% 높은 성능을 보였다.
• 최근접 이웃 기반 접근 방식은 94.34%의 높은 정확도를 기록하여 더 정교한 유사도 모델링의 이점을 입증했다.
• 결과는 레이블이 없는 텍스트로부터의 표현 학습이 WSD 성능 향상에 상당한 기여를 한다는 것을 보여주며, 어떤 레이블 예제도 필요로 하지 않았다.
• MetaMap을 통한 원거리 감독을 활용하면 인간의 주석이 최소화되며, 이는 대규모 생물의학 어휘에 대해 확장 가능한 고품질의 WSD를 가능하게 한다.
• 이 연구는 조밀한 신경 개념 임베딩이 생물의학적 WSD에 매우 효과적임을 확인하였으며, 성능 면에서 지도 학습 방법과 맞먹는다.