[논문 리뷰] Deep Survival Machines: Fully Parametric Survival Regression and Representation Learning for Censored Data with Competing Risks

Chirag Nagpal, Xinyu Rachel Li외 1명|arXiv (Cornell University)|2020. 03. 02.

Statistical Methods and Inference인용 수 21

한 줄 요약

딥 서바이벌 머신스(Deep Survival Machines, DSM)는 코버리에이트의 비선형 표현을 학습하기 위해 딥 네ural 네트워크를 사용하고, 생존 함수를 비모수적 분포의 혼합으로 모델링하는 완전히 파rametric인 생존 회귀 모델을 제안한다. 이는 비례 위험 가정 없이 시간에 따라 변화하는 위험도를 가능하게 하며, DeepHit 및 DeepSurv과 같은 최신 기법들보다 예측 성능과 경쟁 위험 간 지식 전이 능력에서 뛰어나며, 훈련 속도가 빠르고 파rameter 복잡도가 낮다.

ABSTRACT

We describe a new approach to estimating relative risks in time-to-event prediction problems with censored data in a fully parametric manner. Our approach does not require making strong assumptions of constant proportional hazard of the underlying survival distribution, as required by the Cox-proportional hazard model. By jointly learning deep nonlinear representations of the input covariates, we demonstrate the benefits of our approach when used to estimate survival risks through extensive experimentation on multiple real world datasets with different levels of censoring. We further demonstrate advantages of our model in the competing risks scenario. To the best of our knowledge, this is the first work involving fully parametric estimation of survival times with competing risks in the presence of censoring.

연구 동기 및 목표

• 기본적인 생존 모델인 코크스 비례 위험 모델의 비례 위험 가정에 대한 한계를 해결하기 위해.
• 반모수적 가정에 의존하지 않고 케일링 데이터와 경쟁 위험을 처리할 수 있는 완전히 파rametric인 생존 모델을 개발하기 위해.
• 다양한 경쟁 위험 사건 간 지식 전이가 가능한 딥 네ural 네트워크를 통한 표현 학습을 가능하게 하기 위해.
• 딥 러닝 기반 생존 모델들에 비해 모델 복잡도를 줄이고 추론 효율성을 향상시키기 위해.

제안 방법

• 모델은 계층적 그래픽 모델을 사용하여 조건부 생존 함수를 개별 파라미터 생존 분포(예: Weibull, Gumbel)의 혼합으로 추정한다.
• 신경망을 사용해 입력 공변수에 대한 혼합 가중치와 분포 파라미터를 함수로 파aram터화함으로써 비선형 표현 학습을 가능하게 한다.
• 비모수적 관측치와 케일링 관측치를 모두 처리할 수 있도록 설계된 미분 가능한 손실 함수를 설계하여 생존 함수 추정을 직접 최적화한다.
• 모델은 공변수의 깊은 표현과 생존 분포를 함께 학습함으로써 경쟁 위험 간 지식 전이를 가능하게 한다.
• 유연한 파라미터 혼합을 통해 비례 위험 가정을 회피하고 시간에 따라 변화하는 위험 비율을 모델링한다.
• 백프로파게이션과 기반 기반 최적화를 사용한 훈련을 통해 모델을 학습하고, 생존 분포의 파라미터 형식 덕분에 추론이 효율적이다.

실험 결과

연구 질문

• RQ1 완전히 파라미터 기반 생존 모델이 케일링 데이터가 있는 시간-사건 예측에서 반모수적 및 비모수적 방법들을 능가할 수 있는가?
• RQ2 비례 위험 가정 없이 시간에 따라 변화하는 위험을 모델링할 수 있는 능력이 예측 성능을 향상시키는가?
• RQ3 딥 네ural 네트워크가 학습한 표현이 다중 사건 생존 설정에서 경쟁 위험 간 지식 전이를 가능하게 하는가?
• RQ4 DSM의 계산 효율성과 파라미터 복잡도는 DeepHit 및 DeepSurv과 같은 딥 러닝 기반 생존 모델들과 비교해 어떻게 되는가?

주요 결과

• DSM는 SYNTHETIC 데이터셋에서 이벤트 1에서 이벤트 2로의 지식 전이에 대해 C-index 0.7724 ± 0.0025를 기록하여 DeepHit(0.7688 ± 0.0040), DeepSurv(0.6988 ± 0.0038) 및 기타 표현 기반 기준보다 뛰어난 성능을 보였다.
• 실제 데이터셋인 METABRIC 및 SUPPORT에서 모델은 전통적 기법과 딥 러닝 기반 기준 대비 일관된 C-index 향상을 보였다.
• DSM는 DeepHit 및 DeepSurv보다 더 적은 파라미터를 필요로 하였으며, 아키텍처에 따라 30~50%의 모델 크기 감소를 기록하여 메모리 및 계산 비용을 낮추었다.
• DSM의 훈련 시간은 DeepHit 및 DeepSurv보다 뚜렷이 빠르며, 데이터 크기가 증가함에 따라 더 잘 스케일링되었으며, 더 큰 데이터셋에서는 랜덤 생존 숲보다 뛰어난 성능을 보였다.
• 훈련 데이터가 각 이벤트별로 분리되어 있어도, 공유 표현을 학습함으로써 경쟁 위험을 성공적으로 처리하였고, 이는 이벤트 간 일반화 능력을 보여주었다.
• 비례 위험 가정을 위반하는 상황에서도 DSM는 강력한 예측 성능을 유지하여 코크스 모델의 핵심 가정 위반에 대한 강건성을 입증하였다.