[논문 리뷰] Predictive Clinical Decision Support System with RNN Encoding and Tensor Decoding

Yinchong Yang, Peter A. Fasching외 4명|arXiv (Cornell University)|2016. 12. 02.

Topic Modeling참고 문헌 8인용 수 10

한 줄 요약

이 논문은 전이성 유방암에서 예측적 임상 의사결정 지원을 위한 새로운 RNN-텐서 하이브리드 모델을 제안한다. RNN은 순차적이고 정적 환자 데이터를 인코딩하고, Tucker-3 텐서 분해를 통해 관련된 치료 결정(의도 및 유형)을 모델링한다. 이 모델은 기준 모델 대비 NDCG@5에서 56% 향상된 성능을 보이며, 상호 관련성이 있는 임상 목표의 공동 예측에서 뛰어난 성능을 입증한다.

ABSTRACT

With the introduction of the Electric Health Records, large amounts of digital data become available for analysis and decision support. When physicians are prescribing treatments to a patient, they need to consider a large range of data variety and volume, making decisions increasingly complex. Machine learning based Clinical Decision Support systems can be a solution to the data challenges. In this work we focus on a class of decision support in which the physicians' decision is directly predicted. Concretely, the model would assign higher probabilities to decisions that it presumes the physician are more likely to make. Thus the CDS system can provide physicians with rational recommendations. We also address the problem of correlation in target features: Often a physician is required to make multiple (sub-)decisions in a block, and that these decisions are mutually dependent. We propose a solution to the target correlation problem using a tensor factorization model. In order to handle the patients' historical information as sequential data, we apply the so-called Encoder-Decoder-Framework which is based on Recurrent Neural Networks (RNN) as encoders and a tensor factorization model as a decoder, a combination which is novel in machine learning. With experiments with real-world datasets we show that the proposed model does achieve better prediction performances.

연구 동기 및 목표

• 전이성 유방암 환자에 대한 의료진의 치료 결정을 예측할 수 있는 임상 의사결정 지원 시스템을 개발하는 것.
• 치료 의도 및 유형과 같은 임상 의사결정 모델링에서의 상호 관련성이 있는 목표 특성의 과제를 해결하는 것.
• 다중 의존성 치료 결정의 공동 확률 분포를 모델링하여 예측 정확도를 향상시키는 것.
• 순차적 임상 기록과 정적 환자 특성을 통합된 잠재 표현으로 통합하여 의사결정 예측에 활용하는 것.
• 다양한 평가 지표(순위 기반 측정 포함)를 사용하여 실제 EHR 데이터에서 모델 성능을 평가하는 것.

제안 방법

• LSTM 유닛을 갖춘 RNN 인코더가 순차적 임상 이벤트와 치료력사를 처리하여 잠재 벡터로 인코딩한다.
• 정적 환자 특성(114차원)이 로그선형 매핑을 통해 15차원의 잠재 공간으로 임bedding된다.
• 인코더에서 생성된 잠재 표현을 기반으로 3D 이진 벡터로 모델링된 치료 의도(치료적, 보존적, 미상)와 유형(경피적, 브라키테라피, 미상) 간의 상관관계를 반영한 랭크-5 텐서 분해 모델에 입력한다.
• 모델은 모든 목표 특성 조합에 대해 이진 교차 엔트로피 손실을 사용하여 엔드 투 엔드로 훈련되며, 드롭아웃과 릿지 정규화가 적용된다.
• 훈련 과정에서는 검증 세트의 20%에서 조기 정지 기법을 적용하고 RMSprop 옵timizer를 사용하며, 교차 검증을 위해 5개의 랜덤 데이터 분할 평균을 취한다.

실험 결과

연구 질문

• RQ1 모델의 성능을 향상시키기 위해 상호 관련성이 있는 임상 치료 결정 예측에 대해, 하이브리드 RNN-텐서 모델이 개별 분포 모델보다 우수한가?
• RQ2 다중 의존성 치료 목표의 공동 분포를 모델링할 경우, 임상 의사결정 지원에서 예측 성능에 어떤 영향을 미치는가?
• RQ3 순차적 및 정적 환자 데이터를 통합할 경우 의사결정 예측 정확도가 얼마나 향상되는가?
• RQ4 제안된 아키텍처가 AUROC 및 NDCG@5와 같은 순위 기반 지표 모두에서 기준 모델을 초월하는가?
• RQ5 모델이 의료진의 의사결정 패턴과 일치하는 합리적이고 고품질의 추천을 생성할 수 있는가?

주요 결과

• 텐서 모델은 AUROC 0.874 ± 0.012를 기록하여 표준 모델(0.842 ± 0.009)과 대부분의 인기 기준 모델(0.587 ± 0.165)을 뛰어넘었다.
• 커버리지 오차는 27.902 ± 1.084로 감소하여, 가장 인기 있는 기준 모델(118.569 ± 11.053) 대비 관련 목표의 순위를 더 잘 매겼다.
• 순위 정밀도는 0.296 ± 0.009로 향상되어 표준 모델(0.226 ± 0.008) 대비 30% 향상되었다.
• NDCG@5는 0.269 ± 0.014에 도달하여 표준 모델(0.172 ± 0.002) 대비 56% 향상되어 우수한 추천 품질을 입증했다.
• 통계적 검정을 통해 치료 의도와 유형 간 강한 상관관계가 확인되었으며(χ² = 197.17, p < 2.2e-16), 공동 모델링의 필요성을 뒷받침했다.
• 조기 정지와 교차 검증을 통한 엔드 투 엔드 훈련으로 인해 데이터 분할 간에 강건성과 일반화 능력이 확보되었다.