[논문 리뷰] Convolutional Neural Networks for Medical Diagnosis from Admission Notes

Christy Y. Li, Dimitris Konomis외 4명|arXiv (Cornell University)|2017. 12. 06.

Machine Learning in Healthcare참고 문헌 6인용 수 15

한 줄 요약

이 논문은 전자 건강 기록(EHR)의 비정형 입원 기록에서 텍스트 데이터만을 사용하여 자동으로 주요 퇴원 진단을 예측하는 컨볼루션 신경망(CNN) 모델을 제안한다. MIMIC-III 데이터셋으로 훈련된 모델은 10개의 공통 질환 유형에서 96.11%의 정확도와 80.48%의 가중 F1 스코어를 기록했으며, 기준 모델들보다 최소 12.7个百分点 높은 F1 스코어를 기록하여, 노이즈가 많고 비정형적인 임상 텍스트를 다루는 데 있어 뛰어난 성능을 입증한다.

ABSTRACT

$ extbf{Objective}$ Develop an automatic diagnostic system which only uses textual admission information from Electronic Health Records (EHRs) and assist clinicians with a timely and statistically proved decision tool. The hope is that the tool can be used to reduce mis-diagnosis. $ extbf{Materials and Methods}$ We use the real-world clinical notes from MIMIC-III, a freely available dataset consisting of clinical data of more than forty thousand patients who stayed in intensive care units of the Beth Israel Deaconess Medical Center between 2001 and 2012. We proposed a Convolutional Neural Network model to learn semantic features from unstructured textual input and automatically predict primary discharge diagnosis. $ extbf{Results}$ The proposed model achieved an overall 96.11% accuracy and 80.48% weighted F1 score values on 10 most frequent disease classes, significantly outperforming four strong baseline models by at least 12.7% in weighted F1 score. $ extbf{Discussion}$ Experimental results imply that the CNN model is suitable for supporting diagnosis decision making in the presence of complex, noisy and unstructured clinical data while at the same time using fewer layers and parameters that other traditional Deep Network models. $ extbf{Conclusion}$ Our model demonstrated capability of representing complex medical meaningful features from unstructured clinical notes and prediction power for commonly misdiagnosed frequent diseases. It can use easily adopted in clinical setting to provide timely and statistically proved decision support. $ extbf{Keywords}$ Convolutional neural network, text classification, discharge diagnosis prediction, admission information from EHRs.

연구 동기 및 목표

• EHR의 텍스트 기반 입원 기록만을 사용하여 자동으로 데이터 기반 진단 시스템을 개발하여, 적시이고 정확한 임상 의사결정 지원을 목표로 한다.
• 증상이 겹치는 질환에 대해 진단 오류 비율이 높은 문제를 해결하기 위해, 비정형 임상 텍스트에 대한 딥 러닝을 활용한다.
• 수작업으로 만든 의료 규칙에 의존하지 않고, 임상 기록 내 복잡한 비선형 패턴을 학습하는 도구를 만들어 오진단을 줄이기 위한 목표를 가진다.
• 입원 시점의 데이터만을 사용하고 계산 오버헤드를 최소화하여 임상 워크플로우에 쉽게 통합할 수 있도록 한다.
• 노이즈가 많고 형식이 다양한 임상 기록에서 CNN이 의학적으로 의미 있는 특징을 효과적으로 추출할 수 있음을 입증한다.

제안 방법

• 1D 컨볼루션 신경망(CNN)은 비정형 임상 기록에서 퇴원 진단을 분류하도록 훈련되며, 다중 클래스 텍스트 분류 문제로 간주된다.
• 단어 임베딩은 MIMIC-III 데이터셋에서 사전 훈련되어 CNN의 임베딩 레이어를 초기화하는 데 사용되며, 특징 학습 및 모델 성능 향상에 기여한다.
• 공명성 해결 기법을 적용하여 질환 이름 언급(예: 약어, 동의어 등)을 정규화하여 텍스트 표현의 일관성을 향상시킨다.
• 다양한 필터 크기(예: 3-그램, 4-그램, 5-그램)를 가진 다수의 컨볼루션 필터를 사용하여 증상, 검사 결과, 질환 이름 등의 국소 패턴을 탐지한다.
• 미래 작업으로 클래스 불균형 문제, 특히 희귀 질환에 대비하여 가중 손실 함수를 고려한다.
• 개별 구성 요소의 수동 하이퍼파라미터 튜닝이 필요 없이 엔드 투 엔드로 훈련되므로 실용적인 구현 가능성이 향상된다.

실험 결과

연구 질문

• RQ1 비정형적이고 노이즈가 많은 임상 기록에서 CNN 모델이 주요 퇴원 진단을 예측하기 위해 의미적 표현을 효과적으로 학습할 수 있는가?
• RQ2 기존의 기계학습 모델(SVM, 랜덤 포레스트, 다층 퍼셉트론, 로지스틱 회귀 등)과 비교해 볼 때, CNN 기반 접근 방식은 EHR 입원 기록에서 공통 질환을 진단하는 데 어떤가?
• RQ3 컨볼루션 필터가 증상, 질환, 비정상적 소견 등의 임상적으로 관련 있는 패턴을 어느 정도 학습할 수 있는가?
• RQ4 모델은 아키텍처의 최소한의 변경으로 희귀 질환에 일반화하거나 다중 레이블 또는 계층적 질환 예측을 지원할 수 있는가?
• RQ5 임상 코퍼스에서 사전 훈련된 단어 임베딩을 사용할 경우, 무작위 초기화보다 진단 성능 향상에 기여하는가?

주요 결과

• 제안된 CNN 모델은 MIMIC-III 데이터셋의 10개 가장 흔한 질환 유형에서 96.11%의 정확도와 80.48%의 가중 F1 스코어를 기록했다.
• SVM, 랜덤 포레스트, 다층 퍼셉트론, 로지스틱 회귀 등 네 가지 강력한 기준 모델보다 최소 12.7个百分点 높은 가중 F1 스코어를 기록했다.
• 10개 질환 유형 중 9개에서 기존 모델보다 뛰어난 성능을 보이며, 흔히 잘못 진단되는 공통 질환에 대한 강력한 일반화 능력을 입증했다.
• 활성화 분석 결과, 개별 컨볼루션 필터가 '대동맥판막협착증'이나 '고지혈증'과 같은 특정 의학적 어휘를 탐지함을 확인하여, 모델이 임상적으로 관련 있는 패턴을 학습하고 있음을 확인했다.
• 비정형 텍스트 내에서 복잡한 비선형 패턴, 예를 들어 '흉벽 중앙 부위의 가슴 통증' 또는 'ST 분절 상승으로 개선된 가슴 통증'과 같은 다단어 어휘를 효과적으로 식별했다.
• 사전 훈련된 단어 임베딩의 사용이 성능 향상에 크게 기여했으며, 임상 NLP에서 맥락적 표현 학습의 중요성을 강조했다.