[논문 리뷰] Stable variable selection for right censored data: comparison of methods

Marie Walschaerts, Eve Leconte외 1명|arXiv (Cornell University)|2012. 03. 22.

Statistical Methods and Inference참고 문헌 40인용 수 8

한 줄 요약

이 논문은 고차원 우측 절단 생존 데이터에서 변수 선택의 안정성을 향상하기 위한 부트스트랩 기반 안정화 방법을 제안하고 비교한다. 주로 코ックス 비례 위험 모델과 생존 트리에 초점을 맞춘다. 부트스트랩된 라소(bootstrapped Lasso)는 코ックス 모델에서, 노드 수준의 안정화는 생존 트리에서 예측 정확도와 임상적 해석 가능성 사이의 균형을 잘 유지하며, 랜덤 생존 숲보다 해석 가능성은 뛰어나면서도 경쟁력 있는 성능을 유지한다. 특히 표본 수가 적은 경우에 뛰어난 성능을 보인다.

ABSTRACT

The instability in the selection of models is a major concern with data sets containing a large number of covariates. This paper deals with variable selection methodology in the case of high-dimensional problems where the response variable can be right censored. We focuse on new stable variable selection methods based on bootstrap for two methodologies: the Cox proportional hazard model and survival trees. As far as the Cox model is concerned, we investigate the bootstrapping applied to two variable selection techniques: the stepwise algorithm based on the AIC criterion and the L1-penalization of Lasso. Regarding survival trees, we review two methodologies: the bootstrap node-level stabilization and random survival forests. We apply these different approaches to two real data sets. We compare the methods on the prediction error rate based on the Harrell concordance index and the relevance of the interpretation of the corresponding selected models. The aim is to find a compromise between a good prediction performance and ease to interpretation for clinicians. Results suggest that in the case of a small number of individuals, a bootstrapping adapted to L1-penalization in the Cox model or a bootstrap node-level stabilization in survival trees give a good alternative to the random survival forest methodology, known to give the smallest prediction error rate but difficult to interprete by non-statisticians. In a clinical perspective, the complementarity between the methods based on the Cox model and those based on survival trees would permit to built reliable models easy to interprete by the clinician.

연구 동기 및 목표

• 우측 절단이 있는 고차원 생존 데이터에서 변수 선택의 불안정성을 해결하기 위해.
• 코ックス 모델과 생존 트리에서 부트스트랩 기반 안정화 방법을 평가하여 모델의 신뢰성과 해석 가능성 향상을 위해.
• 실제 유방암 및 불임 데이터셋을 사용하여 다양한 방법 간의 예측 성능와 임상적 해석 가능성의 비교를 위해.
• 임상의들이 사용하기에 실용적인 예측 정확도와 해석 용이성 사이의 균형을 찾기 위해.

제안 방법

• 코ックス 모델에서 라소 페널티를 적용한 변수 선택의 안정성을 높이기 위해 부트스트랩을 적용한 방법을 제안하며, 이를 BLS(Bootstrap Lasso Selection)로 명명한다.
• 생존 트리에서 과적합을 줄이고 선택 안정성을 향상시키기 위해 노드 수준의 부트스트랩 안정화(BSS)를 사용한다.
• 예측 성능를 평가하기 위해 랜덤 생존 숲(RSF)을 기준으로 삼는다.
• 단계적 AIC 기반 선택과 단일 생존 트리를 기준 방법으로 사용한다.
• 모든 방법의 예측 오차율 평가를 위해 하레일의 concordance 지수를 사용한다.
• 실제 두 데이터셋을 사용하여 결과를 검증한다: 고전적인 유방암 유전자 발현 데이터셋과 복잡한 공변량을 포함한 원천적인 불임 데이터셋.

실험 결과

연구 질문

• RQ1 부트스트랩은 고차원 우측 절단 생존 데이터에서 변수 선택의 안정성을 어떻게 향상시키는가?
• RQ2 예측 정확도와 임상적 해석 가능성 사이의 최적 균형을 제공하는 방법은 코ックス 기반인지 트리 기반인지?
• RQ3 생존 트리에서 노드 수준의 부트스트랩 안정화가 표준 생존 트리와 랜덤 생존 숲보다 해석 가능성은 뛰어나면서도 성능을 저하시키지 않는가?
• RQ4 이벤트 수가 공변량 수 대비 적은 데이터셋에서 다양한 안정화 기법은 어떻게 성능을 보이는가?
• RQ5 부트스트랩 기반 방법은 생식의학 분야에서 임상적으로 중요한 요인들인 여성의 나이와 불임 지속 기간을 신뢰성 있게 식별할 수 있는가?

주요 결과

• BLS 방법(코ックス 모델에서의 부트스트랩 라소)은 랜덤 생존 숲과 유사한 예측 오차율을 기록했으며, 단일이고 해석 가능한 모델을 생성하여 임상 적용에 이상적이다.
• 생존 트리에서 노드 수준의 부트스트랩 안정화(BSS)는 이브넷 수가 적은 유방암 데이터셋에서는 성능 향상이 없었지만, 충분한 표본 크기를 확보한 불임 데이터셋에서는 잠재력을 보였다.
• BNLS(Bootstrap Node-Level Stabilization) 절차는 어느 데이터셋에서도 단일 생존 트리보다 성능이 열 劣했으며, 이는 복잡도 파라미터 조정의 어려움 때문일 수 있다.
• 모든 방법이 불임 데이터셋에서 여성의 나이 >34.5세와 불임 지속 기간 >33.5개월을 핵심 예측 변수로 식별하여 임상적 관련성을 확인했다.
• 남성 요인인 정맥류와 고환 부피는 BLS, BSS, BNLS 모두에서 일관되게 선택되었으며, 이는 생물학적 관련성을 잘 반영한 것으로, 이전 연구에서 자주 간과되었던 요소였다.
• 본 연구는 코克斯 기반 및 트리 기반 방법이 예측 성능와 해석 가능성의 장점을 서로 보완할 수 있도록 함께 사용해야 한다고 결론 내린다.