[논문 리뷰] Neural ODEs for Multi-State Survival Analysis.

Stefan Groha, Sebastian M. Schmon외 1명|arXiv (Cornell University)|2020. 06. 08.

Machine Learning in Healthcare참고 문헌 4인용 수 4

한 줄 요약

이 논문은 히든 상태의 수가 여러 개인 생존 과정을 모델링하기 위해 히든 상태 간 전이를 설명하는 콜모고로프 전진 방정식을 해결하는 데 신경 미분방정식(Neural ODEs)을 제안한다. 이를 통해 개별 관측 단위의 궤적을 고려한 비선형성과 유연한 위험률 추정이 가능해지며, 변분 잠재변수 모델을 통합하여 원인별 위험률에 대한 불확실성까지 정량화한다. 이로 인해 기준 생존 데이터셋에서 최고 성능을 기록한다.

ABSTRACT

Survival models are a popular tool for the analysis of time to event data with applications in medicine, engineering, economics and many more. Advances like the Cox proportional hazard model have enabled researchers to better describe hazard rates for the occurrence of single fatal events, but are limited by modeling assumptions, like proportionality of hazard rates and linear effects. Moreover, common phenomena are often better described through multiple states, for example, the progress of a disease might be modeled as healthy, sick and dead instead of healthy and dead, where the competing nature of death and disease has to be taken into account. Also, individual characteristics can vary significantly between observational units, like patients, resulting in idiosyncratic hazard rates and different disease trajectories. These considerations require flexible modeling assumptions. Current standard models, however, are often ill-suited for such an analysis. To overcome these issues, we propose the use of neural ordinary differential equations as a flexible and general method for estimating multi-state survival models by directly solving the Kolmogorov forward equations. To quantify the uncertainty in the resulting individual cause-specific hazard rates, we further introduce a variational latent variable model. We show that our model exhibits state-of-the-art performance on popular survival data sets and demonstrate its efficacy in a multi-state setting.

연구 동기 및 목표

• 비례 위험 모델과 선형 효과에 한계를 가진 전통적 생존 모델의 문제점을 해결하고자 한다. 이러한 모델들은 복잡한 비선형 질병 진행을 포착하지 못한다.
• 건강 → 병명 → 死亡 등의 다중 상태 과정을 모델링하고자 한다. 여기서 경쟁 위험과 상태 간 전이가 정확한 분석을 위해 핵심적이다.
• 환자와 같은 관측 단위의 고유한 질병 궤적을 반영하여 개인별 위험률 추정이 가능하도록 하고자 한다.
• 변분 잠재변수 모델을 도입하여 추정된 원인별 위험률에 대한 불확실성을 정량화하고자 한다.
• 콜모고로프 전진 방정식을 직접 풀어 동적 생존 과정을 개선한 일반적이고 유연한 프레임워크를 개발하고자 한다.

제안 방법

• 다중 상태 생존 모델의 전이 강도 함수를 파arameterize하기 위해 신경 미분방정식(Neural ODEs)을 사용한다.
• Neural ODEs를 통해 콜모고로프 전진 방정식을 수치적으로 풀어 상태 확률의 시간 진화를 모델링한다.
• 개별적 원인별 위험률 추정의 불확실성을 정량화하기 위해 변분 잠재변수 모델을 도입한다.
• 연속적인 노멀라이징 플로 유사한 구조를 사용해 잠재공간을 모델링함으로써, 민감하고 미분 가능한 밀도 추정이 가능하도록 한다.
• 모델을 엔드 투 엔드로 훈련시키기 위해 가능도 기반 최적화를 사용하여 전이 역학과 불확실성 추정을 동시에 수행한다.
• Neural ODE 아키텍처를 통해 환자별로 고유한 잠재 표현을 학습함으로써 개인의 이질성을 모델링한다.

실험 결과

연구 질문

• RQ1 표준 파라미터 모델에 비해 Neural ODEs가 다중 상태 생존 과정에서 복잡한 비선형 위험률 역학을 효과적으로 모델링할 수 있는가?
• RQ2 변분 잠재변수 모델이 다중 상태 프레임워크 내에서 개인의 원인별 위험률 추정에 대한 불확실성을 얼마나 잘 정량화할 수 있는가?
• RQ3 제안된 방법이 실제 다중 상태 생존 데이터셋에서 기존 생존 모델을 얼마나 뛰어나게 성능을 발휘하는가?
• RQ4 비례 위험을 가정하지 않고도 모델이 개인별 질병 궤적과 경쟁 위험을 포착할 수 있는가?
• RQ5 모델의 잘못된 특정화나 다양한 데이터 구조에 대해 다중 상태 생존 분석에서 이 방법은 얼마나 강인한가?

주요 결과

• 제안된 Neural ODE 기반 모델은 인기 있는 생존 데이터셋에서 최고 성능을 기록하며, 예측 정확도에서 표준 모델을 능가한다.
• 변분 잠재변수 모델의 통합으로 개인의 원인별 위험률 추정에 대한 불확실성 정량화가 신뢰성 있게 가능해졌다.
• 모델은 비례 위험을 가정하지 않고도 비선형적이고 시간에 따라 변화하는 위험률과 개인별 궤적을 성공적으로 포착하였다.
• Neural ODEs를 통해 콜모고로프 전진 방정식을 풀어 상태 전이를 위한 연속적이고 미분 가능한 프레임워크를 제공한다.
• 다중 상태 전이를 동시에 모델링함으로써 질병 진행과 死亡 등의 경쟁 위험을 효과적으로 처리하였다.
• 실증 결과는 다양한 생존 데이터 구조에 걸쳐 모델의 유연성과 일반화 능력이 뛰어나다는 것을 입증한다.