[논문 리뷰] Deep Neural Networks for Survival Analysis Based on a Multi-Task Framework

Stephane Fotso|arXiv (Cornell University)|2018. 01. 17.

Machine Learning in Healthcare참고 문헌 15인용 수 110

한 줄 요약

본 논문은 Neural Multi-Task Logistic Regression (N-MTLR)를 소개합니다. 이는 생존 분석용 MTLR의 딥러닝 확장으로, 비선형 의존성이 존재할 때 특히 MTLR 및 CoxPH보다 생존 예측을 개선하며 TensorFlow/Keras로 구현됩니다.

ABSTRACT

Survival analysis/time-to-event models are extremely useful as they can help companies predict when a customer will buy a product, churn or default on a loan, and therefore help them improve their ROI. In this paper, we introduce a new method to calculate survival functions using the Multi-Task Logistic Regression (MTLR) model as its base and a deep learning architecture as its core. Based on the Concordance index (C-index) and Brier score, this method outperforms the MTLR in all the experiments disclosed in this paper as well as the Cox Proportional Hazard (CoxPH) model when nonlinear dependencies are found.

연구 동기 및 목표

• 의료를 넘어선 산업에서 시간-사건 예측을 위한 생존 분석의 필요성 제시(예: 이탈, 구매, 디폴트).
• CoxPH의 한계(비례위험, 선형 위험, 미지의 기준선)를 극복하기 위해 MTLR과 딥러닝 활용.
• MTLR의 구간 기반 생존 모델링을 유지하면서 비선형 의존성을 포착하기 위해 Neural MTLR (N-MTLR)을 제안.

제안 방법

• 밀도 및 생존 함수로 J 개의 시간 간격에 걸친 생존을 모델링하기 위해 Multi-Task Logistic Regression에 기반.
• MTLR의 선형 코어를 깊은 신경망(MLP)으로 대체하여 비선형 매핑 psi(x)를 통해 J차원 출력으로 비선형 관계를 포착.
• 비선형 psi(x)를 사용하여 MTLR의 같은 Delta 및 Y 구성과 함께 밀도 f(a_s|x)와 생존 S(t|x)를 계산하고 Z(psi(x))로 정규화합니다.
• TensorFlow 2 및 Keras를 사용한 파이썬으로 표준 딥러닝 기법(초기화, 옵티마이저, 활성화 함수, 배치 정규화, 드롭아웃)을 적용하여 구현.
• 생존 데이터에 호환되는 학습 방식으로 학습하고 오른쪽 검열하에 C-index 및 Brier 점수(및 IBS)로 평가합니다.
• 2-은닉층 네트워크와 다양한 활성화 함수를 사용한 예제를 제공하여 비선형 모델링의 이점을 보여줍니다.

실험 결과

연구 질문

• RQ1 선형, 비선형 제곱(square), 및 비선형 가우시안 위험 함수가 있는 합성 데이터에서 N-MTLR이 선형 MTLR 및 CoxPH보다 더 나은 성능을 보이나요?
• RQ2 실제 데이터셋(WHAS, veteran)에서 비선형 의존성이 N-MTLR에 전통적 생존 모델보다 명확한 이점을 주나요?
• RQ3 검열 하에서 CoxPH, MTLR, N-MTLR 간 C-index 및 Brier 점수(IBS)의 비교는 어떻게 되나요?
• RQ4 Python/TensorFlow/Keras 구현이 실제 작업에서 MTLR을 적용하는 데 실용적이고 유리한가요?

주요 결과

• 선형 위험 데이터에서 CoxPH, MTLR 및 N-MTLR은 비슷한 성능을 보입니다( C-index 약 0.74; IBS 약 0.10–0.12 ).
• 비선형 제곱 위험 데이터에서 CoxPH 및 MTLR은 성능이 떨어지는 반면 N-MTLR은 C-index가 더 높고(0.70), IBS가 더 낮습니다(0.12). CoxPH(0.53) 및 MTLR(0.53)와 비교하여.
• 비선형 가우시안 위험 데이터에서 세 모델 중 N-MTLR이 가장 높은 C-index(0.60)와 IBS(0.13)를 달성합니다.
• 실 데이터 결과는 WHAS 및 veteran 데이터셋에서 모델 간 성능이 유사하며, N-MTLR이 종종 최소한 동등하거나 경쟁력이 있습니다(예: WHAS: C-index 0.80 대 CoxPH의 0.79, IBS 대략 0.17 수준).
• 실험 전반에 걸쳐 N-MTLR은 비선형 의존성이 있을 때 MTLR을 지속적으로 능가하고 CoxPH과 동등하거나 상회하는 성능을 보여 주며, 깊고 비선형 코어의 이점을 입증합니다.