[논문 리뷰] Integration of Domain Knowledge using Medical Knowledge Graph Deep Learning for Cancer Phenotyping

Mohammed Alawad, Shang Gao외 10명|arXiv (Cornell University)|2021. 01. 05.

Biomedical Text Mining and Ontologies참고 문헌 7인용 수 5

한 줄 요약

이 논문은 병리 보고서에서 암 표현형을 향상시키기 위해 UMLS 의학 지식 그래프로부터 도메인 지식을 단어 임베딩에 통합하는 방법을 제안한다. 사전에 훈련된 word2vec 임베딩에 UMLS의 의미 관계를 통합함으로써 맥락적 표현을 향상시켜, 900만 건의 병리 보고서에서 다중 작업 컨볼루션 신경망 모델을 사용할 때 희귀한 암 특성의 매크로-F1 점수를 22.5% 상대적으로 향상시킨다.

ABSTRACT

A key component of deep learning (DL) for natural language processing (NLP) is word embeddings. Word embeddings that effectively capture the meaning and context of the word that they represent can significantly improve the performance of downstream DL models for various NLP tasks. Many existing word embeddings techniques capture the context of words based on word co-occurrence in documents and text; however, they often cannot capture broader domain-specific relationships between concepts that may be crucial for the NLP task at hand. In this paper, we propose a method to integrate external knowledge from medical terminology ontologies into the context captured by word embeddings. Specifically, we use a medical knowledge graph, such as the unified medical language system (UMLS), to find connections between clinical terms in cancer pathology reports. This approach aims to minimize the distance between connected clinical concepts. We evaluate the proposed approach using a Multitask Convolutional Neural Network (MT-CNN) to extract six cancer characteristics -- site, subsite, laterality, behavior, histology, and grade -- from a dataset of ~900K cancer pathology reports. The results show that the MT-CNN model which uses our domain informed embeddings outperforms the same MT-CNN using standard word2vec embeddings across all tasks, with an improvement in the overall micro- and macro-F1 scores by 4.97\%and 22.5\%, respectively.

연구 동기 및 목표

• 표준 단어 임베딩가 임상 텍스트에서 도메인 특화된 관계 지식을 포착하는 데에 한계가 있음을 해결하기 위해.
• 비정형 병리 보고서에서 암 표현형을 추출하는 데에 딥 러닝 모델의 성능을 향상시키기 위해.
• 어떤 암 유형이 희귀하기 때문에 암 등록부에서 클래스 불균형 문제를 완화하기 위해.
• 더 나은 의미 정렬을 위해 UMLS에서 외부 의학 지식을 분산 단어 표현에 통합하기 위해.
• 지식 강화 임베딩가 종양학 분야의 하류 NLP 작업에 미치는 영향을 평가하기 위해.

제안 방법

• word2vec을 사용하여 암 병리 보고서의 대규모 코퍼스에서 단어 임베딩을 사전 훈련한다.
• UMLS의 SNOMED, NCI, ICD10 어휘를 결합하여 지식 그래프를 구축한다.
• UMLS 의미 관계를 사용하여 단어 임베딩를 리모델링하여 개념적으로 유사한 용어 간의 거리를 줄인다 (예: '신장 부전'과 '신장 부전' 등).
• 다중 작업 컨volution 신경망(MT-CNN)에 강화된 임베딩를 입력으로 사용하여 여섯 가지 암 표현형을 동시에 예측한다.
• 모든 여섯 작업을 동시에 최적화하기 위해 백프로파게이션을 사용하여 MT-CNN를 엔드 투 엔드로 훈련한다.
• 부트스트래핑을 통해 유도된 95% 신뢰구간을 사용하여 마이크로 및 매크로-F1 점수로 성능을 평가한다.

실험 결과

연구 질문

• RQ1 UMLS 지식을 단어 임베딩에 통합하면 암 병리 보고서의 임상 용어 표현이 향상되는가?
• RQ2 지식 강화 임베딩가 암 표현형 추출을 위한 딥 러닝 모델의 성능을 향상시키는가?
• RQ3 제안된 방법은 표준 임베딩에 비해 희귀한 암 특성에서 어떻게 성능을 발휘하는가?
• RQ4 지식 통합이 암 표현형 작업에서 클래스 불균형 문제를 어느 정도 완화하는가?
• RQ5 강화된 임베딩를 사용하는 다중 작업 CNN이 표준 word2vec 임베딩를 사용하는 기준 모델을 능가하는가?

주요 결과

• UMLS로 강화된 임베딩를 사용한 MT-CNN 모델은 기준 모델 대비 마이크로-F1 점수에서 4.97%p의 절대적 향상(0.805에서 0.845로)을 기록했다.
• 매크로-F1 점수에서 22.5%의 상대적 향상(0.480에서 0.588로)을 기록하여 희귀한 암 특성에서 더 강한 성능을 보였다.
• 제안된 방법은 고빈도 및 희귀 클래스 양쪽에서 기준 모델을 능가했으며, 특히 희귀 카테고리에서 가장 큰 성과를 기록했다.
• 강화된 임베딩를 사용한 모델은 여섯 가지 암 특성에 대해 41.66%의 병리 보고서를 정확히 표현형 분류했고, 기준 모델은 31.47%였다.
• 오직 부위, 측성, 행동 및 조직형태만 예측할 경우, 제안된 모델은 68.89%의 정확도를 기록했고, 기준 모델은 62.88%였다.
• 결과적으로 UMLS를 통한 외부 도메인 지식 통합이 임베딩 표현 학습 및 임상 NLP에서의 모델 일반화 능력을 크게 향상시킨다는 것이 입증되었다.