[논문 리뷰] Characterizing Diseases from Unstructured Text: A Vocabulary Driven Word2vec Approach

Saurav Ghosh, Prithwish Chakraborty외 3명|arXiv (Cornell University)|2016. 03. 01.

Topic Modeling참고 문헌 21인용 수 10

한 줄 요약

이 논문은 도메인 특화 지식을 통합함으로써 비구조화된 건강 뉴스에서 질병 특성 표현을 향상시키는 어휘 기반 word2vec 모델인 Dis2Vec을 제안한다. 질병 관련 어휘를 활용하여 Dis2Vec은 표준 word2vec 방법보다 분류적 특성—특히 증상, 전파 매개체 및 전파 방법—을 더 잘 포착하며, 신규 발생 질병에 대해 거의 완벽한 정확도를 달성하고, 희귀 및 흔한 질병 범주에서 뛰어난 성능을 보인다.

ABSTRACT

Traditional disease surveillance can be augmented with a wide variety of real-time sources such as, news and social media. However, these sources are in general unstructured and, construction of surveillance tools such as taxonomical correlations and trace mapping involves considerable human supervision. In this paper, we motivate a disease vocabulary driven word2vec model (Dis2Vec) to model diseases and constituent attributes as word embeddings from the HealthMap news corpus. We use these word embeddings to automatically create disease taxonomies and evaluate our model against corresponding human annotated taxonomies. We compare our model accuracies against several state-of-the art word2vec methods. Our results demonstrate that Dis2Vec outperforms traditional distributed vector representations in its ability to faithfully capture taxonomical attributes across different class of diseases such as endemic, emerging and rare.

연구 동기 및 목표

• 질병 감시와 같이 매우 특정 도메인에서 표준 모델이 의미 있는 의미 관계를 포착하지 못하는 비지도 학습 word2vec의 한계를 해결하기 위해.
• 질병 전용 어휘와 같은 도메인 지식을 단어 임베딩 학습에 통합하여 질병 특성의 의미 표현을 향상시키는 방법을 개발하기 위해.
• 비구조화된 뉴스 코퍼스에서 인간이 애너테이션한 분류체계와 비교하여 자동으로 질병 분류체계를 생성하기 위해.
• 다양한 질병 유형—신규 발생, 흔한, 희귀—에 걸쳐 주요 특성화 작업(증상, 전파 매개체, 전파 방법, 노출 등)에서 모델의 성능을 평가하기 위해.

제안 방법

• Dis2Vec는 사전에 지정된 질병 관련 어휘 집합 $\mathcal{V}$ 를 활용하여 단어 임베딩 학습을 이끌고, 이를 통해 의미적 관계를 지도하는 수정된 스킵그램 word2vec 모델이다.
• 모델은 도메인 특화 용어를 맥락으로 사용하여 HealthMap 뉴스 코퍼스에서 학습하며, 질병 특성의 의미 관련성을 향상시킨다.
• 음성 샘플링을 사용하여 단어 임베딩을 학습하며, 어휘 $\mathcal{V}$ 가 학습 중 관련 의미 관계를 제약하고 우선순위를 정하는 데 사용된다.
• 모델은 인간 애너테이션 기준을 사용하여 증상, 전파 매개체, 전파 방법, 노출과 같은 네 가지 질병 특성화 작업에서 평가된다.
• 각 질병 유형과 작업에 최적의 초모수를 설정한 세 가지 기준 단어 임베딩 모델(SGNS, SGHS, 표준 스킵그램)과 성능을 비교한다.
• Dis2Vec는 계층적 소프트맥스 또는 음성 샘플링 방법을 사용하여 스킵그램 목표를 최적화하며, 음성 샘플링 과정에서 어휘 제약 조건을 적용한다.

실험 결과

연구 질문

• RQ1 어휘 기반 word2vec 모델이 비구조화된 건강 뉴스에서 질병 특성의 의미 표현을 표준 비지도 학습 word2vec보다 향상시킬 수 있는가?
• RQ2 Dis2Vec은 신규 발생, 흔한, 희귀 질병 유형에 걸쳐 주요 분류체계 특성화 작업에서 어떻게 성능을 발휘하는가?
• RQ3 도메인 특화 어휘를 통합할 경우, 모델이 인간 애너테이션한 질병 특성—예를 들어 증상 및 전파 방법—을 복원하는 데 얼마나 향상된 능력을 가지는가?
• RQ4 왜 Dis2Vec는 이해도가 낮고 다양한 특성이 자주 보고되는 신규 발생 질병에서 기준 모델보다 뛰어난 성능을 보이는가?

주요 결과

• Dis2Vec는 모든 질병 특성화 작업에서 가장 높은 총합 정확도를 달성하였으며, 특히 신규 발생 질병의 증상, 전파 매개체, 전파 방법 식별에서 뛰어난 성능을 보였다.
• H7N9와 같은 신규 발생 질병의 경우, Dis2Vec는 인간 애너테이션한 모든 증상(발열, 기침, 폐렴)과 전파 노출(동물 노출, 农민, 도축)을 정확히 식별하였고, SGNS는 발열만 회수하였다.
• 희귀 질병 범주(예: bubonic plague)에서 Dis2Vec는 모든 핵심 증상(통증, 발열, 두통)을 포착하였고, 전파 방식을 벡터 기반으로 정확히 분류하였지만, SGNS는 대부분의 용어를 회수하지 못하였다.
• 18개의 질병 유형/작업 조합 중 14개에서 Dis2Vec가 기준 모델을 능가하였으며, 모든 질병 유형에서 증상 특성화 작업에서 가장 높은 향상을 보였다.
• 모델의 성능은 제공된 도메인 지식의 양에 가장 민감하게 반응하였으며, 증상처럼 어휘 커버리지가 풍부한 범주에서 더 큰 향상을 보였다.
• 지속성 질병의 경우 Dis2Vec는 증상 및 전파 방법 식별에서 강력한 성능를 유지하였지만, 뉴스 미디어에서 보고의 다양성이 적어 신규 발생 질병에 비해 성과 향상이 더 미약하였다.