[논문 리뷰] This Patient Looks Like That Patient: Prototypical Networks for Interpretable Diagnosis Prediction from Clinical Text

Betty van Aken, Jens-Michalis Papaioannou외 5명|arXiv (Cornell University)|2022. 10. 16.

Machine Learning in Healthcare인용 수 6

한 줄 요약

ProtoPatient는 원형 네트워크와 레이블별 어텐션을 활용하여 입원 기록에서 임상 진료를 높은 정확도와 해석 가능성으로 예측하는 새로운 딥러닝 모델이다. 원형 환자와 유사한 텍스트 조각을 식별함으로써 임상의들이 직관적이고 타당한 예측을 내릴 수 있도록 하며, 특히 희귀 진료에서 베이스라인을 능가한다. 동시에 수정 가능하고 투명한 의사결정 지원 기능을 제공한다.

ABSTRACT

The use of deep neural models for diagnosis prediction from clinical text has shown promising results. However, in clinical practice such models must not only be accurate, but provide doctors with interpretable and helpful results. We introduce ProtoPatient, a novel method based on prototypical networks and label-wise attention with both of these abilities. ProtoPatient makes predictions based on parts of the text that are similar to prototypical patients - providing justifications that doctors understand. We evaluate the model on two publicly available clinical datasets and show that it outperforms existing baselines. Quantitative and qualitative evaluations with medical doctors further demonstrate that the model provides valuable explanations for clinical decision support.

연구 동기 및 목표

• 블랙박스 성능을 뛰어넘어 해석 가능하고 신뢰할 수 있는 진료 예측 모델이 임상적 의사결정을 지원할 수 있도록 하는 데 목적이 있다.
• 임상의들이 새로운 환자를 과거 사례와 비교하는 방식을 모방하기 위해 임상 텍스트에서 원형 환자 표현을 학습함으로써, 새로운 환자를 과거 사례와 유사하게 비교하는 방식을 모델링한다.
• 특히 희귀 진료에서의 성능 향상을 높이며, 설명이 충실하고 임상적으로 의미 있는지를 확보함으로써 예측 성능 향상을 도모한다.
• 임상의들이 학습 후 원형 환자를 검토하거나 업데이트할 수 있도록 모듈러한 시스템을 개발한다.
• 재현 가능성을 보장하고 임상 AI 연구 분야에서의 도입을 촉진하기 위해 코드를 공개한다.

제안 방법

• 모델은 문맥 기반 임bedding(예: BERT)을 사용하여 임상 입원 기록을 고밀도 표현으로 인코딩한다.
• 각 진료에 대해 해당 진료를 가진 환자들의 일반적인 특징을 나타내는 원형 벡터를 학습한다.
• 레이블별 어텐션은 원형 벡터에 대한 어텐션을 측정함으로써 각 진료에 가장 관련성이 높은 텍스트 스트립을 식별한다.
• 예측은 환자의 표현과 각 진료의 원형 벡터 간의 코사인 유사도를 계산하여 수행된다.
• 각 원형 벡터에 가장 가까운 학습 예제는 원형 환자로 선택되며, 이는 임상의들이 실제 사례 기반으로 이해할 수 있도록 한다.
• 모델은 다중 레이블 진료 예측을 위해 교차 엔트로피 손실을 사용하여 엔드 투 엔드로 훈련된다.

실험 결과

연구 질문

• RQ1 원형 네트워크 접근 방식이 임상 텍스트에서 진료 예측 성능 향상을 이끌어내면서도 해석 가능성을 유지할 수 있는가?
• RQ2 모델의 설명이 사후 해석 방법에 비해 충실도와 임상적 유용성 측면에서 어떻게 비교되는가?
• RQ3 기존의 베이스라인 대비 모델이 희귀 진료에서 성능 향상을 얼마나 높이는가?
• RQ4 임상의들이 강조된 원형 환자와 관련 텍스트 조각을 의사결정 과정에서 유용하게 활용할 수 있는가?
• RQ5 레이블별 어텐션은 다중 레이블, 고어휘량의 진료 예측에서 해석 가능성에 어떻게 기여하는가?

주요 결과

• ProtoPatient는 두 개의 공개 임상 데이터셋에서 여러 최첨단 베이스라인을 능가하며, 특히 희귀 진료에서 F1 스코어 향상이 뚜렷하다.
• 정량적 평가 결과, 모델의 어텐션 기반 설명은 사후 해석 방법보다 내부 의사결정 과정에 더 충실한 것으로 나타났다.
• 의료 전문가들의 수작업 평가 결과, 강조된 원형 환자와 관련 텍스트 조각이 임상적으로 유용하고 이해하기 쉬운 것으로 확인되었다.
• 학습 예제 수가 적은 진료에서 성능 향상을 달성함으로써, 클래스 불균형에 대한 강건성을 보였다.
• 원형 벡터의 모듈러성 덕분에 임상의들이 학습 후 프로토타입을 검토하거나 업데이트할 수 있어 신뢰도와 적응 가능성 향상에 기여한다.
• 코드와 실험 설정을 공개하여 재현 가능성을 보장하고 향후 연구를 지원한다.