[논문 리뷰] SurvSHAP(t): Time-dependent explanations of machine learning survival models

Mateusz Krzyziński, Mikołaj Spytek외 2명|arXiv (Cornell University)|2022. 08. 23.

Explainable Artificial Intelligence (XAI)인용 수 8

한 줄 요약

이 논문은 Shapley 값들을 사용하여 시간에 따라 변하는 기계학습 생존 모델을 위한 모델에 종속되지 않은, 시간에 따라 변하는 설명 방법인 SurvSHAP(t)를 소개한다. 이 방법은 생존 함수 예측에 대해 국소적이고 시간에 따라 변하는 특성 기여도를 제공하며, 시간에 따라 변화하는 영향을 탐지하는 데서 SurvLIME를 능가하고, 더 정확한 국소적 특성 중요도 순서를 제공한다.

ABSTRACT

Machine and deep learning survival models demonstrate similar or even improved time-to-event prediction capabilities compared to classical statistical learning methods yet are too complex to be interpreted by humans. Several model-agnostic explanations are available to overcome this issue; however, none directly explain the survival function prediction. In this paper, we introduce SurvSHAP(t), the first time-dependent explanation that allows for interpreting survival black-box models. It is based on SHapley Additive exPlanations with solid theoretical foundations and a broad adoption among machine learning practitioners. The proposed methods aim to enhance precision diagnostics and support domain experts in making decisions. Experiments on synthetic and medical data confirm that SurvSHAP(t) can detect variables with a time-dependent effect, and its aggregation is a better determinant of the importance of variables for a prediction than SurvLIME. SurvSHAP(t) is model-agnostic and can be applied to all models with functional output. We provide an accessible implementation of time-dependent explanations in Python at http://github.com/MI2DataLab/survshap.

연구 동기 및 목표

• 특수한 생존 모델, 특히 블랙박스이거나 기본적으로 해석이 어려운 모델에 대해 시간에 따라 변하는 설명 방법이 부족한 문제를 해결한다.
• 기존 방법 중 SurvLIME와 같은 방법은 시간에 따라 변하지 않는 특성 영향을 가정하므로 시간에 따라 변화하는 변수의 영향을 포착하지 못한다는 한계를 극복한다.
• 기능적 출력을 갖는 생존 모델을 위한 이론적으로 탄탄한, 모델에 종속되지 않은 설명 프레임워크를 제공하여 생존 함수 예측을 설명할 때 국소 정확성을 보장한다.
• 특히 의료 분야의 도메인 전문가들이 랜덤 생존 숲과 딥러닝 생존 모델과 같은 고도의 모델 예측을 이해하고 검증할 수 있도록 한다.
• 시간에 따라 분해된 시각화를 통해 특성 기여도를 직관적으로 제공함으로써 기계학습이 생존 분석에 신뢰를 얻고 널리 채택될 수 있도록 한다.

제안 방법

• 기능적 출력—특히 시간에 따라 변화하는 생존 함수—를 설명하기 위해 Shapley 값을 적응시켜 SHapley Additive exPlanations (SHAP)를 생존 모델에 확장한다.
• 각 특성에 대해 시간에 따라 변하는 Shapley 값을 계산하여, 각 시간점에서 그 합이 모델의 예측 생존 함수 값과 정확히 일치하도록 한다.
• 모든 가능한 특성 협동군을 고려하면서도 국소 정확성을 유지하기 위해, 효율적인 몬테카를로 근사를 적용한다.
• 모델 특화 수정 없이도 랜덤 생존 숲과 딥러닝 모델을 포함한 기능적 출력을 갖는 모든 생존 모델에 적용 가능하다.
• 시간 범위 전체에 걸쳐 시간에 따라 변하는 기여도를 통합하여 글로벌 중요도 점수를 도출함으로써, 전체 생존 곡선 동안 특성 영향을 비교할 수 있다.
• 구현 기반으로 scikit-survival 파이썬 패키지를 사용하여 기존 생존 모델링 워크플로우와의 호환성을 확보한다.

실험 결과

연구 질문

• RQ1 모델에 종속되지 않은 설명 방법이 생존 모델 예측에 대해 시간에 따라 변하는 기여도를 제공할 수 있는가? 즉, 특성 영향이 시간에 따라 어떻게 변화하는지를 포착할 수 있는가?
• RQ2 SurvSHAP(t)는 시간에 따라 변화하는 생존 결과에 대한 영향을 갖는 특성들을 탐지하는 데서 SurvLIME를 능가하는가?
• RQ3 SurvSHAP(t)는 각 시간점에서 특성 기여도의 합이 정확히 모델의 생존 함수 예측값과 일치하도록 생존 함수 예측을 정확히 재현할 수 있는가?
• RQ4 시간에 따라 변하는 Shapley 값의 통합 방식이 SurvLIME의 계수 기반 중요도와 비교해 보다 효과적으로 핵심 예측 변수를 식별하는가?
• RQ5 SurvSHAP(t)는 아키텍처 수정 없이도 랜덤 생존 숲과 딥러닝 생존 모델과 같은 복잡한 모델에 적용 가능한가?

주요 결과

• SurvSHAP(t)는 SurvLIME가 시간에 따라 변하지 않는 영향을 가정하기 때문에 탐지하지 못하는 특성의 시간에 따라 변화하는 영향을 성공적으로 포착한다.
• 시간에 따라 변하는 SurvSHAP(t) 값의 통합은 SurvLIME의 계수 기반 접근 방식보다 더 정확하고 신뢰할 수 있는 국소적 특성 중요도 측정을 제공한다.
• SurvSHAP(t)는 국소 정확성 성질을 만족하여, 각 시간점에서 특성 기여도의 합이 정확히 모델의 생존 함수 예측값과 일치함을 보장한다.
• 합성 데이터 및 실제 의료 데이터에 대한 실험을 통해 SurvSHAP(t)가 시간에 따라 영향력이 변화하는 특성들을 정확히 식별할 수 있음을 확인하였다.
• 이 방법은 랜덤 생존 숲과 딥러닝 모델을 포함한 기능적 출력을 갖는 모든 생존 모델에 적용 가능하여 광범위한 모델에 종속되지 않는 유용성을 입증한다.
• 오픈소스 파이썬 구현이 제공되어, scikit-survival 라이브러리를 사용하는 기존 생존 모델링 파ip라인에 즉각 통합할 수 있다.