[논문 리뷰] BoXHED2.0: Scalable boosting of dynamic survival analysis

Arash Pakbin, Xiaochen Wang외 2명|PubMed|2021. 03. 23.

Machine Learning in Healthcare참고 문헌 8인용 수 5

한 줄 요약

BoXHED2.0는 오른쪽 절단을 초월하여 시간에 따라 변하는 공변량, 경쟁 위험, 반복 사건을 지원하는 확장 가능한 비모수적 기울기 부스팅 위험 추정기로, 파이썬 기반이다. C++ 코어와 GPU/CPU 병렬 처리를 기반으로 하여, 시간에 정적 공변량 하에서 생존 함수 추정이 가능하면서도 파라미터 모델과 유사한 속도를 달성한다.

ABSTRACT

Modern applications of survival analysis increasingly involve time-dependent covariates. The Python package <b>BoXHED2.0</b> (<b>Bo</b>osted e<b>X</b>act <b>H</b>azard <b>E</b>stimator with <b>D</b>ynamic covariates) is a tree-boosted hazard estimator that is fully nonparametric, and is applicable to survival settings far more general than right-censoring, including recurring events and competing risks. <b>BoXHED2.0</b> is also scalable to the point of being on the same order of speed as parametric boosted survival models, in part because its core is written in C++ and it also supports the use of GPUs and multicore CPUs. <b>BoXHED2.0</b> is available from PyPI and also from www.github.com/BoXHED.

연구 동기 및 목표

• 기존 생존 분석 도구가 시간에 따라 변하는 공변량, 경쟁 위험, 반복 사건을 처리할 수 없는 한계를 해결한다.
• 복잡한 절단 기법을 지원하면서도 높은 정확도를 유지하는 확장 가능한 비모수적 위험 추정기를 개발한다.
• 핵심 로직을 C++로 이관하고 명시적 적분 평가를 제거하는 새로운 사전 처리 단계를 도입하여 BoXHED1.0 대비 계산 효율성을 향상시킨다.
• 공변량이 시간에 정적일 경우 생존 함수 $ S(t|X) $ 추정이 가능하도록 하여, 위험 모델링을 초월한 유용성을 확장한다.
• 실제 도메인에 적합한 사용자 친화적이고 프로덕션 수준의 파이썬 패키지를 제공하며, GPU 및 다중 코어 CPU 지원을 포함한다.

제안 방법

• 일般적인 절단 기법을 갖춘 시간에 따라 변하는 위험을 모델링하기 위해 Aalen 강도 모델을 기반 프레임워크로 채택한다.
• 기울기 부스팅을 사용한 트리 기반 위험 추정기를 구현하며, 기초 학습기는 시간과 공변량을 기준으로 분할하는 결정 트리이다.
• 우리의 새로운 사전 처리 단계는 우도 계산에서 명시적 적분 평가를 피함으로써 계산 오버헤드를 크게 감소시킨다.
• 고성능 추론을 위한 C++ 기반 코어 엔진을 개발하여 GPU 및 다중 코어 CPU 가속을 가능하게 한다.
• 통합 계수 과정 프레임워크를 통해 오른쪽 절단, 왼쪽 절단, 간격 절단, 경쟁 위험을 포함한 다수의 절단 메커니즘을 지원한다.
• 공변량이 시간에 정적일 경우 추정된 위험 함수에서 생존 함수 $ S(t|X) $ 를 계산하기 위한 내장 함수를 제공하며, 공식 $ S(t|X) = \exp\left(-\int_0^t \hat{\lambda}(u,X) du\right) $ 를 사용한다.

실험 결과

연구 질문

• RQ1 일반적인 생존 설정, 즉 시간에 따라 변하는 공변량, 경쟁 위험, 반복 사건을 처리할 수 있는 비모수적 기울기 부스팅 위험 추정기를 설계할 수 있는가?
• RQ2 모델 정확도나 유연성에 손상 없이 비모수적 생존 모델의 계산 효율성을 어떻게 크게 향상시킬 수 있는가?
• RQ3 GPU 및 다중 코어 CPU 지원을 갖춘 C++ 기반 구현은 순수 파이썬 대비 학습 시간을 얼마나 줄일 수 있는가?
• RQ4 공변량이 시간에 정적일 경우 생존 함수를 위험 함수에서 신뢰성 있게 추정할 수 있으며, 이를 확장 가능한 프레임워크에 어떻게 효율적으로 통합할 수 있는가?
• RQ5 기울기 부스팅 생존 모델에서 하이퍼파ram터 선택에 1-SE 규칙이 얼마나 효과적인가? 복잡성과 성능의 균형을 유지하면서 자동화할 수 있는가?

주요 결과

• BoXHED2.0는 파라미터 기반 기울기 부스팅 생존 모델과 유사한 계산 성능을 달성하여 대규모 생존 분석에 적합하다.
• 새로운 사전 처리 단계는 명시적 적분 평가를 제거하여 계산 병목 현상을 줄이고, BoXHED1.0 대비 수 개의 주기적 속도 향상을 이룬다.
• GPU 및 다중 코어 CPU 지원을 갖춘 C++ 코어 엔진 덕분에 대규모 데이터셋에서 최소한의 지연 시간으로 학습이 가능하며, 순수 파이썬 기반 BoXHED1.0 대비 뚜렷한 성능 우위를 확보한다.
• 공변량이 시간에 정적일 경우 표준 지수 적분 공식을 사용하여 위험 함수에서 생존 함수 $ S(t|X) $ 를 성공적으로 추정한다.
• 변수 중요도 점수는 안정적으로 계산되며 `VarImps` 속성을 통해 노출되어 생존 모델에서 해석 가능한 기능 분석이 가능하다.
• 하이퍼파ram터 선택을 위한 1-SE 규칙은 `best_param_1se_rule()` 함수를 통해 효과적으로 자동화되어 예측 성능 손실가장 최소화된 단순한 모델을 도출한다.