[논문 리뷰] TASTE: Temporal and Static Tensor Factorization for Phenotyping Electronic Health Records

Ardavan Afshar, Ioakeim Perros외 6명|arXiv (Cornell University)|2019. 11. 13.

Tensor decomposition and applications인용 수 7

한 줄 요약

TASTE는 전자건강기록(EHR) 내 정적(예: 인구통계학적 특성) 및 시간적(예: 종단적 방문 기록) 특성을 하이브리드 PARAFAC2 및 비음수행렬분해 프레임워크를 사용해 공동으로 모델링하는 새로운 텐서 분해 방법을 제안한다. 이는 기준 모델 대비 최대 14배 빠른 계산 성능를 달성하며, 최소한의 특성으로도 딥러닝 성능에 맞먹는 임상적으로 의미 있는 심부전 표현형을 추출한다.

ABSTRACT

Phenotyping electronic health records (EHR) focuses on defining meaningful patient groups (e.g., heart failure group and diabetes group) and identifying the temporal evolution of patients in those groups. Tensor factorization has been an effective tool for phenotyping. Most of the existing works assume either a static patient representation with aggregate data or only model temporal data. However, real EHR data contain both temporal (e.g., longitudinal clinical visits) and static information (e.g., patient demographics), which are difficult to model simultaneously. In this paper, we propose Temporal And Static TEnsor factorization (TASTE) that jointly models both static and temporal information to extract phenotypes. TASTE combines the PARAFAC2 model with non-negative matrix factorization to model a temporal and a static tensor. To fit the proposed model, we transform the original problem into simpler ones which are optimally solved in an alternating fashion. For each of the sub-problems, our proposed mathematical reformulations lead to efficient sub-problem solvers. Comprehensive experiments on large EHR data from a heart failure (HF) study confirmed that TASTE is up to 14x faster than several baselines and the resulting phenotypes were confirmed to be clinically meaningful by a cardiologist. Using 80 phenotypes extracted by TASTE, a simple logistic regression can achieve the same level of area under the curve (AUC) for HF prediction compared to a deep learning model using recurrent neural networks (RNN) with 345 features.

연구 동기 및 목표

• 기존의 EHR 표현형 분석 방법이 정적 환자 특성(예: 인종, 성별)과 동적 임상 경로를 동시에 모델링하지 못하는 격차를 해결한다.
• 불규칙하고 희박한 종단적 EHR 데이터를 다룰 수 있으며, 모델의 유일성과 해석 가능성도 유지하는 확장 가능한 해석 가능한 방법을 개발한다.
• 정적 및 동적 임상 특성을 통합하여 심부담 표현형 분석의 예측 성능을 향상시킨다.
• 비볼록 최적화 문제를 다루기 쉬운 부분문제로 재구성함으로써 계산 효율성을 향상시킨다.

제안 방법

• 시간적 데이터에 대해 PARAFAC2를, 정적 특성에 대해 비음수행렬분해를 조합한 공동 텐서 분해 모델을 설정하며, 공통의 표현형 점수 행렬을 공유한다.
• 환자별로 다른 요소 행렬(U_k)과 공유되는 요소 행렬(V)을 사용해 시간적 데이터를 모델링하며, 불규칙한 방문 횟수를 처리하기 위해 Q_k 및 H를 통한 직교 제약 조건을 도입한다.
• 정적 특성(A)은 공유되는 표현형 점수(S_k)와 요소 행렬(F)로 분해함으로써 공동 학습을 가능하게 한다.
• 원래의 비볼록 최적화 문제를 교차하는 부분문제로 재구성한다: 직교 프로크루스테스 문제, 최소제곱 문제, 비음수 최소제곱 문제로 전환하여 비용이 많이 드는 카트라이-라오 곱을 피한다.
• 각 부분문제에 대해 효율적인 솔버를 사용하며, 닫힌 형태의 해와 수렴 보장을 갖춘 반복 알고리즘을 적용한다.
• 모델의 유일성과 임상적 해석 가능성 향상을 위해 음수 제약 조건과 직교 제약 조건을 유지한다.

실험 결과

연구 질문

• RQ1 통합된 텐서 분해 모델은 EHR 내 정적 및 동적 특성을 효과적으로 통합하여 표현형 분석 정확도를 향상시킬 수 있는가?
• RQ2 정적 및 시간적 특성을 공동으로 모델링하는 것과 별도로 모델링하는 것 간에 심부담 예측 성능에서 어떤 차이가 있는가?
• RQ3 제안된 방법은 기존 기준 모델 대비 뚜렷한 속도 향상을 이룰 수 있을까? 동시에 모델의 해석 가능성과 유일성도 유지하는가?
• RQ4 TASTE가 발견한 표현형은 전문가가 검증한 임상적으로 인정된 패턴과 일치하는가?

주요 결과

• TASTE는 오직 80개의 표현형만을 사용하여 심부담 예측에서 AUC 0.7554를 달성하였으며, 345개의 특성을 사용한 기준 RNN 모델보다 우수한 성능을 보였다.
• TASTE는 최첨단 기준 모델 대비 최대 14배 더 빠른 속도를 기록하였고, 모델의 유일성과 해석 가능성도 유지하였다.
• 심장병 전문의의 검증을 통해 다섯 가지 임상적으로 의미 있는 심부담 표현형—房세동, 고혈압성 심부담, 비만 유도성, 심혈관계 대사성, 관상동맥 심장병—을 성공적으로 추출하였다.
• TASTE의 공동 모델링 프레임워크를 통해 정적 특성을 통합함으로써, 동적 특성만을 사용한 기준 모델 대비 AUC가 0.0056 향상되었으며(0.7426 vs. 0.7498), 정적 특성 추가된 PARAFAC2 기준 모델 대비 역시 0.0056 향상되었다.
• 표현형 점수(S_k)는 정적 및 동적 모odalities 간에 공유되어 환자의 궤적을 일관되고 개인화된 방식으로 표현할 수 있게 하였다.
• 최적화 문제의 재구성이 계산 비용이 많이 드는 연산(예: 카트라이-라오 곱)을 피함으로써 모델의 효율성이 향상되었다.