[논문 리뷰] survex: an R package for explaining machine learning survival models

Mikołaj Spytek, Mateusz Krzyziński외 4명|arXiv (Cornell University)|2023. 08. 30.

Explainable Artificial Intelligence (XAI)인용 수 4

한 줄 요약

survex R 패키지는 기계학습 생존 모델을 설명하기 위한 포괄적인 프레임워크를 제공하며, SurvSHAP(t) 및 SurvLIME와 같은 설명 가능성 있는 인공지능(XAI) 기법을 통해 국소적 및 글로벌 해석 가능성을 가능하게 한다. 모델 진단, 변수 중요도 및 시각화 기능을 지원하여 생물의학 및 의료 분야에서의 투명성과 신뢰도를 향상시킨다.

ABSTRACT

Due to their flexibility and superior performance, machine learning models frequently complement and outperform traditional statistical survival models. However, their widespread adoption is hindered by a lack of user-friendly tools to explain their internal operations and prediction rationales. To tackle this issue, we introduce the survex R package, which provides a cohesive framework for explaining any survival model by applying explainable artificial intelligence techniques. The capabilities of the proposed software encompass understanding and diagnosing survival models, which can lead to their improvement. By revealing insights into the decision-making process, such as variable effects and importances, survex enables the assessment of model reliability and the detection of biases. Thus, transparency and responsibility may be promoted in sensitive areas, such as biomedical research and healthcare applications.

연구 동기 및 목표

• 생물의학 및 의료 응용 분야에서 블랙박스 기계학습 생존 모델을 설명하기 위한 사용자 友好的 도구의 부족을 보완한다.
• 개별 예측과 생존 분석에서의 글로벌 모델 행동을 모두 해석할 수 있는 통합적이고 확장 가능한 프레임워크를 제공한다.
• 이식성과 총기화된 생존 모델에 특화된 고급 XAI 기법—예: SurvSHAP(t) 및 SurvLIME—을 통합한다.
• 잔차 분석 및 성능 평가를 통한 모델 진단을 통해 모델 검증과 편향 탐지를 지원한다.
• 변수 효과, 중요도 및 상호작용 패턴을 드러내어 생존 모델의 투명성과 책임감 있는 사용을 촉진한다.

제안 방법

• R에서 다양한 생존 모델 패키지—예: 랜덤 생존 숲, 코ックス 모델, 그리고 survivalmodels 를 통한 딥러닝—을 지원하는 모듈식 인터페이스를 구현한다.
• SurvSHAP(t) 를 적용하여 생존 함수 예측에 대한 시간에 따라 변화하는 SHAP 값 계산을 수행하여, 시간별로 변수 기여도를 분석할 수 있도록 한다.
• SurvLIME 를 사용해 개별 예측 주변에 국소 서로서티브 코ックス 모델을 피팅하고, 설명 가능한 계수를 추출한다.
• 부분적 의존도 및 누적 국소 효과 프로파일을 생성하여 변수가 생존 예측에 미치는 마진 효과를 시각화한다.
• 2차원 프로파일 플롯을 지원하여 변수 쌍 간의 상호작용 효과가 모델 출력에 미치는 영향을 탐지한다.
• 모델 품질 평가 및 校정 평가를 위한 잔차 분석 도구—예: 마팅게일, 디바이언스, 코ックス-스넬 잔차—를 통합한다.

실험 결과

연구 질문

• RQ1 시간-이벤트 및 총기화된 특성을 지닌 생존 데이터에 특화된 XAI 기법을 통해 기계학습 생존 모델을 효과적으로 설명할 수 있는가?
• RQ2 SurvSHAP(t) 및 SurvLIME 는 다양한 데이터셋에서 개별 생존 예측에 대해 신뢰할 수 있고 해석 가능한 설명을 제공하는가?
• RQ3 부분적 의존도 및 누적 국소 효과 플롯과 같은 글로벌 모델 설명은 변수 영향력과 상호작용 효과에 대한 의미 있는 패턴을 드러내는가?
• RQ4 잔차 분석과 같은 진단 도구는 생존 모델링에서 모델 校정성과 신뢰도 평가에 어떻게 기여하는가?
• RQ5 survex 프레임워크는 생존 모델의 임상 및 생물의학적 응용에서 신뢰도와 투명성을 어떻게 향상시키는가?

주요 결과

• survex 패키지는 총기화된 생존 모델 예측에 대한 시간 인식 XAI 기법—예: SurvSHAP(t) 및 SurvLIME—를 성공적으로 구현하여 설명 가능한 해석을 가능하게 한다.
• 마팅게일, 디바이언스 및 코克斯-스넬 잔차를 통한 모델 진단을 통해 모델 校정성과 적합도 평가에 대한 강력한 평가가 가능하다.
• 부분적 의존도 및 2D 프로파일 플롯은 변수가 생존 결과에 미치는 비선형 효과와 상호작용 패턴을 드러내어 모델 이해 및 개선에 기여한다.
• SurvSHAP(t) 빈티지 스웜 및 의존도 플롯은 시간에 따라 변수 기여도를 직관적으로 시각화하여 임상의 및 연구자들이 이해하기 쉽게 한다.
• survex 는 췌장암 위험 예측 및 병원 체류 기간 예측과 같은 실제 생물의학 연구에 성공적으로 적용되었으며 실용적 유용성을 입증했다.
• 패키지는 다양한 생존 모델을 지원하며, 향후 요인별 반대로 설명 및 경쟁 위험 모델과 같은 새로운 기법에 확장 가능하다.