[논문 리뷰] Random forests for survival analysis using maximally selected rank statistics.

Marvin N. Wright, Theresa Dankowski외 1명|arXiv (Cornell University)|2016. 05. 11.

Gene expression and cancer classification참고 문헌 43인용 수 6

한 줄 요약

이 논문은 최대 선택 순위 통계량을 사용하여 분할 점을 선택하는 새로운 랜덤 포레스트 방법을 제안한다. 이는 기존의 로그랭 기반 방법의 편향을 피하고 비선형 효과를 탐지할 수 있도록 한다. 예측 성능이 뛰어나고 런타임이 더 빠르며, 비선형 관계나 이원형 예측 변수가 존재할 경우 기존의 랜덤 생존 포레스트 및 조건부 추론 포레스트보다 뛰어난 성능을 발휘한다.

ABSTRACT

The most popular approach for analyzing survival data is the Cox regression model. The Cox model may, however, be misspecified, and its proportionality assumption is not always fulfilled. An alternative approach is random forests for survival outcomes. The standard split criterion for random survival forests is the log-rank test statistics, which favors splitting variables with many possible split points. Conditional inference forests avoid this split point selection bias. However, linear rank statistics are utilized in current software for conditional inference forests to select the optimal splitting variable, which cannot detect non-linear effects in the independent variables. We therefore use maximally selected rank statistics for split point selection in random forests for survival analysis. As in conditional inference forests, p-values for association between split points and survival time are minimized. We describe several p-value approximations and the implementation of the proposed random forest approach. A simulation study demonstrates that unbiased split point selection is possible. However, there is a trade-off between unbiased split point selection and runtime. In benchmark studies of prediction performance on simulated and real datasets the new method performs better than random survival forests if informative dichotomous variables are combined with uninformative variables with more categories and better than conditional inference forests if non-linear covariate effects are included. In a runtime comparison the method proves to be computationally faster than both alternatives, if a simple p-value approximation is used.

연구 동기 및 목표

• 랜덤 생존 포레스트에서 흔히 발생하는 분할 점 선택의 편향을 해결하기 위해, 로그랭 검정에 기반한 방법이 많은 카테고리를 가진 변수를 선호하는 경향이 있다는 점을 해결한다.
• 조건부 추론 포레스트의 한계를 극복하기 위해, 선형 순위 통계량에 의존하여 비선형 예측 변수 효과를 탐지할 수 없다는 점을 해결한다.
• 비선형 관계를 탐지할 수 있는 랜덤 포레스트 방법을 개발하여, 비편향된 분할 점 선택을 유지한다.
• 기존의 조건부 추론 포레스트 구현 방식에 비해 계산 효율성을 향상시킨다.

제안 방법

• 이 방법은 분할 기준으로 최대 선택 순위 통계량을 사용하며, 모든 가능한 분할에서 순위 기반 검정 통계량을 최대화함으로써 최적의 분할 점을 식별한다.
• 분할 점과 생존 시간 간의 연관성의 유의미성을 평가하기 위해 p-값 근사치를 사용하며, 최소 p-값을 선택하여 가장 정보가 풍부한 분할을 확보한다.
• 랜덤 포레스트 프레임워크에 통합되어, 부트스트랩 샘플과 무작위 특성 부분집합을 사용하여 다수의 생존 트리를 생성한다.
• p-값 근사치를 사용하여 계산 효율성과 통계적 정확도를 균형 잡으며, 성능을 훼손하지 않으면서도 런타임을 단축하는 데 중점을 둔다.
• Cox 모델의 비례 위험 가정을 요구하지 않으며, 기저 위험도를 사전에 지정할 필요가 없다.
• 선형 모델이 아닌 순위 기반 통계량을 통해 최적의 분할 점을 식별함으로써 예측 변수의 비선형 효과를 탐지할 수 있도록 설계되어 있다.

실험 결과

연구 질문

• RQ1 최대 선택 순위 통계량은 로그랭 또는 선형 순위 통계량에 비해 생존 분석을 위한 랜덤 포레스트에서 분할 점 선택에 더 나은 성능을 보일 수 있는가?
• RQ2 제안된 방법은 기존의 랜덤 생존 포레스트 또는 조건부 추론 포레스트 방법보다 예측 변수의 비선형 효과를 더 효과적으로 탐지할 수 있는가?
• RQ3 다양한 p-값 근사 전략을 사용할 경우, 제안된 방법의 계산 런타임은 기존 방법들과 비교해 어떻게 되는가?
• RQ4 정보가 있는 이원형 변수와 정보가 없는 고카디널리티 변수를 함께 조합했을 때 예측 성능에 어떤 영향을 미치는가?
• RQ5 조건부 추론 포레스트보다 더 빠른 계산을 달성하면서도 비편향된 분할 점 선택을 유지할 수 있는가?

주요 결과

• 최대 선택 순위 통계량을 사용함으로써 제안된 방법은 분할 점 선택에 대해 비편향된 성능을 달성한다. 이는 분할 점이 많은 변수에 대해 편향되지 않음을 의미한다.
• 시뮬레이션 연구에서, 선형 순위 통계량이 포착하지 못하는 예측 변수의 비선형 효과를 이 방법이 성공적으로 탐지하였다.
• 정보가 있는 이원형 변수와 정보가 없는 고카디널리티 변수가 함께 존재하는 데이터셋에서, 이 방법은 표준 랜덤 생존 포레스트보다 예측 정확도에서 뛰어난 성능을 보였다.
• 비선형 예측 변수 효과가 존재할 경우, 선형 순위 통계량에 의존하는 조건부 추론 포레스트보다 이 방법이 더 우수한 성능을 보였다.
• 간단한 p-값 근사 전략을 사용했을 때, 이 방법은 랜덤 생존 포레스트 및 조건부 추론 포레스트 모두보다 계산상 더 빠른 성능을 보였다.
• 이 방법은 런타임을 크게 줄이며 강력한 예측 성능를 유지함으로써 대규모 생존 분석에 적합하다.