[논문 리뷰] Survival Regression with Proper Scoring Rules and Monotonic Neural Networks

David Rindt, Robert Hu외 2명|arXiv (Cornell University)|2021. 03. 26.

Statistical Methods and Inference인용 수 6

한 줄 요약

이 논문은 오른쪽으로 잘린 로그우도를 직접 최적화하는 새로운 생존 회귀 모델인 SuMo-net을 소개한다. 이는 타임-의존적 신경망 가중치에 단조성 조건을 부여하여 타당한 누적분포함수를 유지하고, 우도를 해석 가능하게 만든다. 이 방법은 기존 신경 생존 모델 대비 20–100배 빠른 추론 성능을 기록하며, 대규모 데이터셋에서 확장 가능하고 校정된 생존 모델링을 가능하게 한다.

ABSTRACT

We consider frequently used scoring rules for right-censored survival regression models such as time-dependent concordance, survival-CRPS, integrated Brier score and integrated binomial log-likelihood, and prove that neither of them is a proper scoring rule. This means that the true survival distribution may be scored worse than incorrect distributions, leading to inaccurate estimation. We prove that, in contrast to these scores, the right-censored log-likelihood is a proper scoring rule, i.e., the highest expected score is achieved by the true distribution. Despite this, modern feed-forward neural-network-based survival regression models are unable to train and validate directly on the right-censored log-likelihood, due to its intractability, and resort to the aforementioned alternatives, i.e., non-proper scoring rules. We therefore propose a simple novel survival regression method capable of directly optimizing log-likelihood using a monotonic restriction on the time-dependent weights, coined SurvivalMonotonic-net (SuMo-net). SuMo-net achieves state-of-the-art log-likelihood scores across several datasets with 20--100$ imes$ computational speedup on inference over existing state-of-the-art neural methods, and is readily applicable to datasets with several million observations.

연구 동기 및 목표

• 일반적으로 사용되는 오른쪽으로 잘린 생존 회귀를 위한 점수 규칙의 결함을 특정하고 수정하는 것 — 이러한 점수 규칙은 타당하지 않으며, 진짜 분포보다 잘못된 분포를 선호할 수 있다.
• 오른쪽으로 잘린 로그우도가 타당한 점수 규칙임을 이론적으로 증명하여, 진짜 분포가 최고의 기대 점수를 얻음을 보장하는 것.
• 오른쪽으로 잘린 로그우도를 직접 최적화할 수 있도록, 확장 가능하고 유연하며 효율적인 신경망 모델을 개발하는 것 — 이는 기존 방법에서의 해석 불가능성 문제를 해결한다.
• 타당한 점수 규칙을 기반으로 훈련된 모델이 보다 校정된 생존 예측을 제공함을 보여주는 것 — 특히 헬스케어 및 금융 분야와 같이 안전이 중요한 분야에서 중요하다.
• 해석 가능한 우도를 기반으로 한 일반화 가능한 프레임워크를 제공하여, 다양한 도메인 간의 모델 비교 및 평가를 용이하게 하는 것.

제안 방법

• 시간에 따라 변화하는 가중치가 단조롭게 비감소하도록 제약을 가한 단조성 신경망 아키텍처를 제안하여, 누적분포함수가 타당하고 우도가 해석 가능하도록 보장한다.
• 예측 생존함수를 네트워크 출력의 단조성 변환으로 유도하여, 우도 평가에 필요한 수학적 성질을 유지한다.
• 오른쪽으로 잘린 로그우도를 직접 최적화하여, 순서형 우도나 브리어 점수와 같은 대체 목적함수를 피한다. 이는 타당한 점수 규칙임이 증명되었다.
• 테스트 시점에서 생존 확률을 계산하기 위해 단일 전방전파를 수행하여, 위험 함수의 수치적 통합이 필요한 기존 모델 대비 수개의 순서로 더 빠른 추론을 가능하게 한다.
• 단조성 ReLU 기반 레이어를 사용해 생존함수의 미분 가능 근사치를 구현하여, 표준 역전파 알고리즘을 통한 엔드 투 엔드 훈련을 가능하게 한다.
• 표준 딥러닝 프레임워크와 통합하여, 향후 확장 시 테이블, 게놈, 영상 데이터와 같은 고차원 입력을 지원할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 시간에 따라 변화하는 순서형 우도, 통합 브리어 점수, 생존-CRPS와 같은 일반적으로 사용되는 점수 규칙이 오른쪽으로 잘린 생존 회귀에 대해 타당한 점수 규칙인지 여부?
• RQ2 오른쪽으로 잘린 로그우도가 타당한 점수 규칙인지 확인할 수 있는가? — 즉, 진짜 생존 분포가 기대 점수를 최대화하는가?
• RQ3 오른쪽으로 잘린 로그우도를 직접 최적화할 수 있도록 하되, 모델의 유연성을 유지할 수 있는 신경망 아키텍처를 설계할 수 있는가?
• RQ4 이러한 모델이 로그우도 성능에서 최신 기술 성능을 기록하면서도, 기존 방법 대비 추론 속도에서 뚜렷한 우월성을 보일 수 있는가?
• RQ5 타당한 점수 규칙을 직접 최적화하면, 비타당한 대체 목적함수를 사용해 훈련된 모델보다 더 잘 校정된 생존 예측을 도출할 수 있는가?

주요 결과

• 시간에 따라 변화하는 순서형 우도, 통합 브리어 점수, 이항 로그우도, 생존-CRPS는 타당한 점수 규칙가 아니며, 잘못된 분포가 진짜 분포보다 더 높은 점수를 받을 수 있다.
• 오른쪽으로 잘린 로그우도는 타당한 점수 규칙임이 증명되었으며, 이는 진짜 생존 분포가 기대 점수를 최대화함을 의미한다.
• SuMo-net은 FLCHAIN, GBSG, KKBOX, METABRIC, SUPPORT 등 다양한 벤치마크 데이터셋에서 최신 기술 성능을 기록한 로그우도 점수를 달성한다.
• SODEN과 Cox-Time 대비 SuMo-net은 추론 시간에서 20–100배 빠른 성능을 기록하였으며, METABRIC에서는 최소 0.016초, SUPPORT에서는 0.047초의 추론 시간을 기록했다.
• SuMo-net은 잘 校정된 생존 예측을 제공하며, METABRIC에서는 0.097, KKBOX에서는 0.112의 캘리브레이션 오차를 기록하여 Weibull 및 로그정규 분포와 같은 파rametric 모델을 초월한다.
• 모델 성능은 다양한 데이터 유형에서 뛰어난 안정성을 보이며 수백만 건의 관측치를 포함한 데이터셋에도 스케일링 가능하여 실제 응용에서의 실용성을 입증한다.