[논문 리뷰] DeepPAMM: Deep Piecewise Exponential Additive Mixed Models for Complex Hazard Structures in Survival Analysis

Philipp Kopper, Simon Wiegrebe외 3명|arXiv (Cornell University)|2022. 02. 12.

Statistical Methods and Inference인용 수 4

한 줄 요약

DeepPAMM는 생존 분석에서 복잡한 위험 구조를 모델링하기 위해 조각별 지수 가감 혼합 모델(PAMM)과 신경망을 통합하는 딥러닝 프레임워크이다. 이는 케이스에 따라 캐논화, 절단, 경쟁 위험, 상관 관계가 있는 데이터를 처리하면서도 해석 가능하고 고차원의 특징 학습을 가능하게 하며, 통계적 엄밀성과 다중 모odal 및 시간에 따라 변하는 특징에 대한 유연성을 갖춘 경쟁적인 예측 성능를 달성한다.

ABSTRACT

Survival analysis (SA) is an active field of research that is concerned with time-to-event outcomes and is prevalent in many domains, particularly biomedical applications. Despite its importance, SA remains challenging due to small-scale data sets and complex outcome distributions, concealed by truncation and censoring processes. The piecewise exponential additive mixed model (PAMM) is a model class addressing many of these challenges, yet PAMMs are not applicable in high-dimensional feature settings or in the case of unstructured or multimodal data. We unify existing approaches by proposing DeepPAMM, a versatile deep learning framework that is well-founded from a statistical point of view, yet with enough flexibility for modeling complex hazard structures. We illustrate that DeepPAMM is competitive with other machine learning approaches with respect to predictive performance while maintaining interpretability through benchmark experiments and an extended case study.

연구 동기 및 목표

• 기존 생존 모델이 고차원, 비정형 또는 다중 모달 데이터를 다루는 데에 한계가 있음에도 불구하고 해석 가능성을 유지하는 것.
• 조각별 지수 가감 혼합 모델(PAMM)을 딥 뉴럴 네트워크로 확장하여 비선형 특징 상호작용과 시간에 따라 변하는 영향을 모델링하는 것.
• 우측 캐논화, 좌측 절단, 경쟁 위험, 재발 사건을 포함한 다양한 생존 데이터 유형을 통합된 통계적 프레임워크 내에서 지원하는 것.
• 랜덤 효과를 통해 그룹화되거나 반복 관측된 데이터의 상관관계를 고려하면서도 예측 정확도를 유지하는 것.
• 이론적 기반을 유지하면서도 다소의 해석 가능성을 갖춘 영리한 생존 분석을 위한 딥러닝 프레임워크를 제공하는 것.

제안 방법

• DeepPAMM는 파rametric 및 비파rametric 성분을 조합한 반구조적 가감 예측자 사용: 부드러운 시간 효과를 위한 정규화된 스퍼린(스플라인)과 군집화를 위한 랜덤 효과를 포함한 선형 예측자.
• 고차원 특징 상호작용과 비정형 데이터(예: 이미지 또는 표 형태의 특징)를 모델링하기 위해 딥 뉴럴 네트워크를 비파라메트릭 성분으로 통합.
• 모델은 로그-위험 함수를 구조화된 효과(예: 시간대에 대한 순환 스퍼린, 공간 좌표에 대한 텐서 곱 스퍼린)와 비구조화된 딥 뉴럴 네트워크 성분의 합으로 추정.
• 환자들이 다른 병원이나 소방대에서 온 경우와 같이 그룹화되거나 반복 관측된 데이터의 상관관계를 반영하기 위해 랜덤 효과( frailty 항목)를 통합.
• 통합된 위험 매개변수화를 통해 경쟁 위험과 다중 상태 과정을 포함한 다양한 생존 데이터 유형을 지원.
• 기존 소프트웨어 스택(예: deepregression)을 활용해 모델 피팅을 수행하여 정규화를 통한 과적합 방지를 위한 효율적인 최적화를 가능하게 함.

실험 결과

연구 질문

• RQ1 딥러닝 프레임워크는 생존 분석에서 복잡한 고차원 특징 상호작용을 모델링하면서도 해석 가능성을 유지할 수 있는가?
• RQ2 비정형 데이터가 존재할 경우, 딥 뉴럴 네트워크 성분의 통합이 기존의 PAMM 모델 대비 예측 성능을 어떻게 향상시키는가?
• RQ3 DeepPAMM는 비비례 위험, 시간에 따라 변하는 영향, 경쟁 위험을 얼마나 잘 모델링하면서도 통계적 해석 가능성을 유지할 수 있는가?
• RQ4 실제 생존 데이터에서 비구조화된 딥 성분의 추가가 구조화된 효과를 초월해 예측 성능을 유의미하게 향상시키는가?
• RQ5 DeepPAMM는 단일 통합 모델 내에서 다중 모달 데이터(예: 표 형태 및 공간 데이터)를 효과적으로 처리할 수 있는가?

주요 결과

• DeepPAMM는 런던 소방대 데이터셋에서 중앙값(Q50)에서 16.7의 IBS(통합 브리어 스코어)를 기록하며 기준선 KM 및 PAMM 모델을 능가하는 경쟁적인 예측 성능를 달성했다.
• 비구조화된 딥 성분의 추가로 예측 성능가 약간 향상되었지만, 신뢰구간이 겹치고 표준편차가 낮아 구조화된 효과만으로도 충분히 충분하다는 것이 확인되었다.
• 모델은 응급 대응 시간에 대한 시간대의 비선형 순환 효과를 성공적으로 포착했으며, 낮에는 위험이 높고(응답 시간이 짧음) 밤에는 위험이 낮다는 결과를 보였다.
• 공간 효과는 도시 외곽에서 위험이 더 높은 것으로 나타났으며, 이는 이전 연구 결과와 일치하여 모델이 해석 가능한 공간 패턴을 회복할 수 있음을 입증했다.
• DeepPAMM는 부드럽고 구조화된 스퍼린(예: 순환 스퍼린 및 이변량 스퍼린)을 통해 해석 가능성을 유지하면서도 딥 뉴럴 네트워크 성분을 통해 복잡한 상호작용을 허용한다.
• 통합된 단일 모델 아키텍처를 통해 경쟁 위험, 좌측 절단, 상관 관계가 있는 데이터를 포함한 복잡한 생존 데이터 유형을 효과적으로 모델링할 수 있다.