[논문 리뷰] Deep EHR: Chronic Disease Prediction Using Medical Notes

Jingshu Liu, Zachariah Zhang외 1명|arXiv (Cornell University)|2018. 08. 15.

Machine Learning in Healthcare참고 문헌 9인용 수 48

한 줄 요약

논문은 비구조화된 의료 노트를 구조화된 데이터와 결합하여 만성 질환 발병을 예측하는 다중 작업 딥 러닝 프레임워크를 소개하며, 노트가 성능을 개선하고 부정 처리(negation handling)가 정확도를 높임을 보여준다.

ABSTRACT

Early detection of preventable diseases is important for better disease management, improved inter-ventions, and more efficient health-care resource allocation. Various machine learning approacheshave been developed to utilize information in Electronic Health Record (EHR) for this task. Majorityof previous attempts, however, focus on structured fields and lose the vast amount of information inthe unstructured notes. In this work we propose a general multi-task framework for disease onsetprediction that combines both free-text medical notes and structured information. We compareperformance of different deep learning architectures including CNN, LSTM and hierarchical models.In contrast to traditional text-based prediction models, our approach does not require disease specificfeature engineering, and can handle negations and numerical values that exist in the text. Ourresults on a cohort of about 1 million patients show that models using text outperform modelsusing just structured data, and that models capable of using numerical values and negations in thetext, in addition to the raw text, further improve performance. Additionally, we compare differentvisualization methods for medical professionals to interpret model predictions.

연구 동기 및 목표

• 예방 가능한 질병의 조기 탐지를 위해 EHR에 담긴 풍부한 정보를 활용하는 것을 동기로 삼는다.
• 자유 텍스트 노트와 구조화된 수치 데이터를 융합하는 일반적인 다중 작업 아키텍처를 제안한다.
• 대규모 실제 EHR 데이터에서 다양한 딥 러닝 아키텍처(CNN, LSTM, 계층형 모델)를 평가한다.
• 부정 표기(negations)를 다루고 임상 해석 가능성을 돕는 시각화 방법을 제공한다.

제안 방법

• 메모를 단어 임베딩(PubMed 및 내부 StarSpace 임베딩)로 표현하고 CNN, LSTM 또는 계층형 모델에 입력한다.
• 노트에서 추출된 수치 실험실/생체신호 값과 인구통계학적 정보를 추가 입력으로 포함한다.
• 질병별 출력과 마스크된 손실을 사용하는 다중 작업 프레임워크를 활용하여 환자-질병 적합성 중첩을 처리한다.
• 부정 표기를 개선하기 위한 부정 태깅 단계(NegEx)을 적용한다.
• 실험 Baseline 모델(실험실/인구통계 포함 로지스틱 회귀, TF-IDF 텍스트)과 딥 러닝 모델을 비교한다.
• 상대로그/로그-오즈 기반의 시각화 방법을 제공하여 영향력이 큰 n-그램과 구를 식별한다.

실험 결과

연구 질문

• RQ1 비구조화된 의료 노트가 구조화된 데이터만 사용하는 것보다 질병 발병 예측에 도움이 될 수 있는가?
• RQ2 노트를 가장 잘 활용해 다질병 발병 예측을 수행하는 딥 러닝 아키텍처는 무엇인가?
• RQ3 노트의 부정 표현과 수치 값이 예측 성능에 어떤 영향을 미치는가?
• RQ4 의료진이 모델 예측을 해석하는 데 도움이 되는 시각화 방법은 무엇인가?

주요 결과

• 의료 노트를 사용하는 모델은 실험실 데이터 및 인구통계 데이터만 사용하는 모델보다 성능이 우수하다.
• 노트를 활용한 딥 러닝 모델은 TF-IDF 특징을 가진 로지스틱 회귀 Baseline보다 더 높은 AUC를 달성한다.
• 부정 태깅을 포함하고 실험실/인구통계 데이터를 결합하는 것이 CHF, KF, 뇌졸중에서 최상의 성능을 낳는다.
• 최고의 모델(BiLSTM with negation tagging, dense layer, plus lab/demographic inputs)이 세 질환 전반에서 가장 높은 AUC를 달성했다.
• 로그-오즈 기반의 시각화는 그래디언트 기반 방법보다 직관적인 설명을 제공한다.