[논문 리뷰] Representation Learning of EHR Data via Graph-Based Medical Entity Embedding

Tong Wu, Yunlong Wang외 4명|arXiv (Cornell University)|2019. 10. 07.

Machine Learning in Healthcare참고 문헌 13인용 수 5

한 줄 요약

이 논문은 전자건강기록(EHR) 데이터에서 의료 엔티티(서비스, 의사, 환자)의 저차원 임베딩을 학습하기 위한 그래프 기반 계층적 프레임워크인 ME2Vec을 제안한다. 서비스 중요도를 위해 공시출현 빈도를 활용하고, 특성 부여된 다중그래프를 위한 복제 및 주석 부여 방법을 적용함으로써, ME2Vec은 기준 모델들을 능가하는 성능을 보이며, 80% 훈련 데이터에서 환자 분류 작업에서 87.9%의 마이크로-F1을 달성한다.

ABSTRACT

Automatic representation learning of key entities in electronic health record (EHR) data is a critical step for healthcare informatics that turns heterogeneous medical records into structured and actionable information. Here we propose ME2Vec, an algorithmic framework for learning low-dimensional vectors of the most common entities in EHR: medical services, doctors, and patients. ME2Vec leverages diverse graph embedding techniques to cater for the unique characteristic of each medical entity. Using real-world clinical data, we demonstrate the efficacy of ME2Vec over competitive baselines on disease diagnosis prediction.

연구 동기 및 목표

• 대부분의 표현 학습에서 발생하는 이질적이고 종단적이며 시간적으로 불규칙한 EHR 데이터의 과제를 해결하기 위해.
• 환자 여정의 관계적 및 시간적 구조를 서비스, 의사, 환자 간에 통합적으로 캡처하는 통합 프레임워크를 개발하기 위해.
• 의사와 환자에 대해 '무엇을 하느냐가 당신을 정의한다'는 모델링을 통해 해석 가능하고 확장 가능한 임베딩을 가능하게 하기 위해.
• 향상된 엔티티 표현을 통해 환자 유사도 및 후속 임상 예측 작업을 향상시키기 위해.

제안 방법

• 교차환자 간의 동시 발생 빈도를 기반으로 가중치가 부여된 인접 행렬을 계산하기 위해 T일 간격의 슬라이딩 윈도우를 사용하여 서비스 동시 발생 그래프를 구축한다.
• 서비스 그래프에서 편향된 무작위 보행을 적용하고, Word2Vec을 최적화하여 근접성을 유지하면서 드문 중요한 서비스의 공간적 고립을 강조한다.
• 의사 전문 분야 예측을 위해 그래프 주의 메커니즘(GAT)을 사용하며, 의사 임베딩을 서비스 임베딩의 가중 평균으로 초기화한다.
• 특성 부여된 다중그래프(환자, 의사, 서비스)를 손실 없이 단순 그래프로 변환하기 위해 복제 및 주석 부여 기법을 도입한다.
• 변환된 그래프를 사용하여 의사 및 서비스 관계로부터의 정보를 집계함으로써 환자 임베딩을 학습하며, 환자-의사 및 환자-서비스 상호작용을 공동으로 모델링한다.
• 학습된 임베딩에 대해 로지스틱 회귀를 적용하여 노드 분류를 수행함으로써 질병 진단 예측 성능을 평가한다.

실험 결과

연구 질문

• RQ1 통합 프레임워크는 이질적인 의료 엔티티(서비스, 의사, 환자)의 표현 학습을 효과적으로 수행할 수 있는가? 이는 시간적 및 관계적 구조를 유지하는가?
• RQ2 공시출현 빈도와 공간적 고립을 통해 서비스 중요도를 모델링하면 후속 예측 작업에 어떤 영향을 미치는가?
• RQ3 복제 및 주석 부여 방법은 특성 부여된 다중그래프에서 구조 정보를 얼마나 잘 유지하며, 확장 가능한 그래프 임베딩에 기여하는가?
• RQ4 의사와 서비스를 동시에 모델링할 때 ME2Vec은 기존 기준 모델들을 능가하는가?
• RQ5 컨텍스트 윈도우 크기 T와 같은 하이퍼파rameter 선택에 대해 임베딩은 얼마나 강인한가?

주요 결과

• ME2Vec은 80% 훈련 데이터에서 환자 진단 예측 작업에서 마이크로-F1 점수 0.879와 매크로-F1 점수 0.676을 기록하며, 모든 기준 모델들을 능가했다.
• 서비스 임베딩 전략은 빈도가 적은 고영향도 서비스를 임베딩 공간에서 효과적으로 고립시켰으며, 이는 시각화에서 공간적 산산조각나 있음을 통해 뒷받ány되었다.
• 의사 임베딩은 전문 분야에 따라 명확하게 분리되었으며, t-SNE 시각화에서 신장과 종양학 전문의가 다른 전문 분야와 잘 분리되어 있었다.
• node2vec과 LINE과 같은 기준 모델들은 환자-의사 그래프에서 성능이 열악하여 환자-의사 관계를 포괄적으로 포착하지 못하는 것으로 나타났다.
• ME2Vec의 성능은 컨텍스트 윈도우 크기 T에 대해 강인했으며, T가 5일에서 10일 사이에서 변할 때도 정확도에 유의미한 하락이 없었다.
• 복제 및 주석 부여 방법은 다중그래프의 구조를 성공적으로 유지했으며, 복잡한 EHR 그래프에서 효율적이고 확장 가능한 그래프 임베딩을 가능하게 했다.