[논문 리뷰] A Predictive Approach Using Deep Feature Learning for Electronic Medical Records: A Comparative Study.

Milad Zafar Nezhad, Dongxiao Zhu외 2명|arXiv (Cornell University)|2018. 01. 06.

Machine Learning in Healthcare참고 문헌 37인용 수 7

한 줄 요약

이 논문은 제한된 레이블이 부여된 데이터에서 강력한 고수준 특징을 추출하기 위해 비지도 표현 학습을 활용하는 딥 페처 학습 및 워드 임베딩 기반 접근법을 제안한다. 이 방법은 빈도가 높은 eICU 데이터셋에서 아프리카계 미국인 환자의 LVMI 예측 및 중환자실(ICU) 체류 기간 예측에서 기준 모델보다 뛰어난 성능을 보였다.

ABSTRACT

Massive amount of electronic medical records accumulating from patients and populations motivates clinicians and data scientists to collaborate for the advanced analytics to extract knowledge that is essential to address the extensive personalized insights needed for patients, clinicians, providers, scientists, and health policy makers. In this paper, we propose a new predictive approach based on feature representation using deep feature learning and word embedding techniques. Our method uses different deep architectures for feature representation in higher-level abstraction to obtain effective and more robust features from EMRs, and then build prediction models on the top of them. Our approach is particularly useful when the unlabeled data is abundant whereas labeled one is scarce. We investigate the performance of representation learning through a supervised approach. First, we apply our method on a small dataset related to a specific precision medicine problem, which focuses on prediction of left ventricular mass indexed to body surface area (LVMI) as an indicator of heart damage risk in a vulnerable demographic subgroup (African-Americans). Then we use two large datasets from eICU collaborative research database to predict the length of stay in Cardiac-ICU and Neuro-ICU based on high dimensional features. Finally we provide a comparative study and show that our predictive approach leads to better results in comparison with others.

연구 동기 및 목표

• 원시 EMR 텍스트 및 구조화된 데이터로부터 계층적 고수준 표현을 학습하기 위해 딥 신경망 아키텍처를 활용하여 레이블이 부여된 데이터가 제한된 상황에서의 특징 표현 문제를 해결한다.
• 딥 표현 학습을 활용하여 레이블이 제한된 환경에서 임상 위험 예측 작업의 성능을 향상시키는 강력한 예측 모델링 프레임워크를 개발한다.
• 딥 아키텍처와 워드 임베딩이 EMR에서 고수준 추상적 특징을 추출하는 데 얼마나 효과적인지 조사한다.
• 정밀의료 및 ICU 체류 기간 예측과 같은 다양한 임상 예측 과제에 대해 방법을 평가하여 일반화 능력을 입증한다.
• 낮은 자원의 레이블링 환경에서 기존 방법과의 비교 분석을 통해 제안된 방법의 우수성을 제시한다.

제안 방법

• 원시 EMR 텍스트 및 구조화된 데이터에서 계층적 고수준 표현을 학습하기 위해 딥 신경망 아키텍처를 활용한다.
• 임상 텍스트를 의미를 반영하는 조밀한 벡터 표현으로 변환하기 위해 워드 임베딩 기법을 활용한다.
• 대규모 비레이블 EMR 데이터에 대해 자기지도 또는 대비 학습(pre-training)을 적용하여 효과적인 특징 표현을 학습한다.
• 제한된 레이블 데이터를 사용하여 하류 예측 과제에 대해 학습된 표현을 미세조정한다.
• LVMI 예측 및 ICU 체류 기간 예측과 같은 과제를 위해 딥 특징 표현 위에 초점된 지도 학습 모델을 훈련한다.
• 여러 데이터셋과 과제에서 제안된 방법의 성능을 기존의 전통적 및 딥 러닝 기준 모델과 비교한다.

실험 결과

연구 질문

• RQ1 레이블이 제한된 상황에서 워드 임베딩을 활용한 딥 페처 학습이 EMR 기반 임상 모델링의 예측 성능을 향상시킬 수 있는가?
• RQ2 대규모 비레이블 EMR 데이터로부터의 표현 학습이 하류 예측 과제를 향상시키는 데 얼마나 효과적인가?
• RQ3 제안된 방법이 아프리카계 미국인 환자에서 심장 손상 위험의 지표인 LVMI를 예측하는 데 기존 접근법을 능가하는가?
• RQ4 이 방법은 심장중환자실(Cardiac-ICU) 및 신경중환자실(Neuro-ICU)에서 체류 기간을 예측하기 위해 대규모 ICU 데이터에 얼마나 잘 일반화되는가?
• RQ5 다양한 임상 예측 과제에서 제안된 방법의 성능은 기준 모델과 비교해 어떻게 나타나는가?

주요 결과

• 제안된 딥 페처 학습 방법은 레이블이 제한된 취약한 인구집단 하위군에서 LVMI를 예측하는 데 기준 모델보다 더 뛰어난 예측 성능을 달성했다.
• 제한된 레이블 데이터를 사용함에도 불구하고 대규모 eICU 데이터셋에서 강건성과 일반화 능력이 향상됨을 입증했다.
• 풍부한 비레이블 EMR 데이터로부터의 표현 학습이 특징 품질을 크게 향상시켜 더 정확한 예측을 가능케 했다.
• 딥 아키텍처와 워드 임베딩의 통합은 전통적인 특징 공학보다 텍스트 및 구조화된 EMR 데이터에서 임상적으로 관련 있는 패턴을 더 효과적으로 포착했다.
• 비교 연구를 통해 제안된 방법이 소규모 정밀의료 과제와 대규모 ICU 예측 과제 양쪽 모두에서 기존 접근법을 일관되게 능가하는 것으로 확인되었다.
• 결과는 비레이블 EMR 데이터에 대한 비지도 사전학습 전략이 레이블링 자원이 제한된 환경에서 하류 임상 예측 성능 향상에 매우 유용한 전략임을 시사한다.