[논문 리뷰] Interpretable Outcome Prediction with Sparse Bayesian Neural Networks in Intensive Care

Anna-Lena Popkes, Hiske Overweg외 5명|arXiv (Cornell University)|2019. 05. 12.

Machine Learning in Healthcare참고 문헌 61인용 수 22

한 줄 요약

이 논문은 예측 유연성과 특성 선택을 통한 해석 가능성의 조합을 통해 인공신경망의 예측 유연성과 해석 가능성을 결합한 희박한 베이지안 신경망을 제안한다. 연결된 희박성 유도 사전을 적용함으로써 모델은 치명적 결과 예측을 위한 임상적으로 관련성이 있는 ICU 변수를 식별하며, 임상의들에게 정확한 결과뿐 아니라 특성 중요도에 대한 조치 가능한 통찰을 제공한다.

ABSTRACT

Clinical decision making is challenging because of pathological complexity, as well as large amounts of heterogeneous data generated as part of routine clinical care. In recent years, machine learning tools have been developed to aid this process. Intensive care unit (ICU) admissions represent the most data dense and time-critical patient care episodes. In this context, prediction models may help clinicians determine which patients are most at risk and prioritize care. However, flexible tools such as artificial neural networks (ANNs) suffer from a lack of interpretability limiting their acceptability to clinicians. In this work, we propose a novel interpretable Bayesian neural network architecture which offers both the flexibility of ANNs and interpretability in terms of feature selection. In particular, we employ a sparsity inducing prior distribution in a tied manner to learn which features are important for outcome prediction. We evaluate our approach on the task of mortality prediction using two real-world ICU cohorts. In collaboration with clinicians we found that, in addition to the predicted outcome results, our approach can provide novel insights into the importance of different clinical measurements. This suggests that our model can support medical experts in their decision making process.

연구 동기 및 목표

• 높은 데이터 복잡성과 이질성으로 인해 중환자실(ICU)의 임상 의사결정에 도전 과제가 존재한다.
• 기존 인공신경망(ANN)의 해석 불가능성으로 인해 임상의의 신뢰도와 도입이 제한된다.
• 예측 성능를 유지하면서도 투명한 특성 중요도 식별이 가능한 기계학습 모델을 개발한다.
• 임상의들이 환자 예후 예측에 가장 영향을 미치는 임상 측정치를 이해하고 새로운 통찰을 얻을 수 있도록 한다.

제안 방법

• ICU 예후 예측에서 불확실성을 모델링하고 확률적 예측을 지원하기 위해 베이지안 신경망 아키텍처를 활용한다.
• 모델 가중치 전역에 걸쳐 연결된 방식으로 희박성 유도 사전 분포를 적용하여 특성 수준의 희박성을 유도한다.
• 변분 추론을 사용하여 가중치의 사후 분포를 근사함으로써 효율적인 훈련과 해석을 가능하게 한다.
• 결과적으로 생성된 희박한 가중치 구조를 활용하여 사망률 예측에 가장 영향을 미치는 임상적 특성을 식별하고 순위를 매긴다.
• 모델의 강건성과 임상적 관련성을 확보하기 위해 두 개의 실제 ICU 코hort에서 모델을 훈련하고 평가한다.
• 임상의들과 협력하여 특성 중요도 순위의 해석 가능성과 임상적 타당성을 검증한다.

실험 결과

연구 질문

• RQ1 희박한 베이지안 신경망은 사망률 예측에서 높은 예측 성능를 달성하면서도 특성 수준의 해석 가능성을 제공할 수 있는가?
• RQ2 모델이 가장 중요하다고 식별한 임상적 특성들은 무엇이며, 이는 임상 전문 지식과 일치하는가?
• RQ3 모델의 해석 가능성은 임상의들이 예측 과정을 이해하고 신뢰하는 데 어떻게 기여하는가?
• RQ4 희박성 유도 사전은 예측 정확도를 희생시키지 않고도 관련 특성을 효과적으로 식별하는가?

주요 결과

• 제안된 모델은 두 개의 실제 ICU 코hort에서 사망률 예측에 대해 뛰어난 예측 성능를 달성한다.
• 희박성 유도 사전은 예후 예측에 가장 관련성이 있는 특성의 소수의 임상적 의미 있는 하위집합을 성공적으로 식별한다.
• 임상의들의 협업을 통해 식별된 특성들이 기존의 임상 지식과 병리생리학적 추론과 일치함을 확인하였다.
• 예측 정확도를 넘어서, 모델은 다양한 임상 측정치의 상대적 중요도에 대한 새로운 통찰을 제공한다.
• 모델의 해석 가능성은 예측된 결과의 주요 결정 요인을 부각시켜 임상 의사결정 지원에 기여한다.
• 연결된 희박성 메커니즘은 여러 레이어에 걸쳐 일관된 특성 선택을 가능하게 하여 모델의 투명성을 향상시킨다.