[논문 리뷰] A pliable lasso for the Cox model

Wenfei Du, Rob Tibshirani|arXiv (Cornell University)|2018. 07. 18.

Mathematical Biology Tumor Growth참고 문헌 8인용 수 4

한 줄 요약

이 논문은 주어진 공변량과 수정 변수(예: 연령, 성별, 시간에 따라 변하는 요소) 간의 주효과 및 상호작용 효과를 희박하게 추정할 수 있는 탄성 라소(pleasing lasso) 방법을 제안한다. 주효과가 존재할 경우에만 상호작용 효과에 대해 희박성 제약을 가하는 계층적 페널티를 적용함으로써 과적합을 방지하고, 특히 시간에 따라 변하는 수정 변수를 포함한 고차원 설정에서 생존 예측 정확도를 향상시킨다.

ABSTRACT

We introduce a pliable lasso method for estimation of interaction effects in the Cox proportional hazards model framework. The pliable lasso is a linear model that includes interactions between covariates X and a set of modifying variables Z and assumes sparsity of the main effects and interaction effects. The hierarchical penalty excludes interaction effects when the corresponding main effects are zero: this avoids overfitting and an explosion of model complexity. We extend this method to the Cox model for survival data, incorporating modifiers that are either fixed or varying in time into the partial likelihood. For example, this allows modeling of survival times that differ based on interactions of genes with age, gender, or other demographic information. The optimization is done by blockwise coordinate descent on a second order approximation of the objective.

연구 동기 및 목표

• 공변량과 수정 변수를 고려한 생존 분석에서 고차원 주효과 및 상호작용 효과를 추정하는 데 도전하는 것.
• 원래 가우시안 모델을 위해 개발된 탄성 라소 프레임워크를 생존 데이터의 케이스 비례 위험 모델로 확장하는 것.
• 시간에 따라 변하는 수정 변수(예: 연령, 시간에 따라 변하는 공변량)를 생존 모델에 통합하면서도 모델의 해석 가능성과 희박성을 유지하는 것.
• 고차원 생존 데이터에 상호작용 항이 포함된 경우에도 적합한 계산 효율성을 갖는 최적화 알고리즘 개발.
• 합성 데이터와 실제 NKI 유방암 데이터를 대상으로 성능 평가하여 표준 라소 및 Cox 모델과의 비교

제안 방법

• 공변량 $x_i$ 와 수정 변수 $z_i$ 간의 상호작용 항을 포함한 Cox 모델을 설정하며, 고정된 수정 변수와 시간에 따라 변하는 수정 변수를 모두 포함.
• 계층적 페널티를 적용하여 희박성 강제: 상호작용 효과 $\theta_k$ 는 해당 주효과 $\beta_k$ 가 0이 아닐 때에만 포함된다.
• 부분 로그우도의 이차 근사에 대한 최적화를 위해 블록별 좌표강하 알고리즘을 사용하며, 이를 가중 최소제곱 문제로 간주.
• 특히 시간에 따라 변하는 경우에 계산 효율성을 높이기 위해 부분 우도에 로지스틱 근사를 적용.
• 중복 그룹 라소 페널티 구조를 통합: $\| (\beta_k, \theta_k) \|_2 + \| \theta_k \|_2$ 로서 계층적 선택 보장.
• 교차검증을 통해 적합도 기준을 활용하여 조정 파rameter $\lambda$ 와 $\alpha$ 를 선택.

실험 결과

연구 질문

• RQ1 탄성 라소 프레임워크는 고차원 공변량을 갖는 생존 데이터의 Cox 비례위험 모델로 효과적으로 확장될 수 있는가?
• RQ2 기존 라소 또는 전체 상호작용 모델과 비교해 계층적 페널티 구조가 추정 정확도 및 변수 선택 성능을 향상시키는가?
• RQ3 수정 변수가 시간에 따라 변할 경우, 탄성 라소는 주효과와 상호작용 효과를 얼마나 잘 식별하는가?
• RQ4 부분 우도의 로지스틱 근사는 계산 속도를 높이면서도 예측 정확도를 유지할 수 있는가?
• RQ5 유전자-연령 상호작용과 같은 시간에 따라 변하는 상호작용을 포함함으로써 고정 효과 모델보다 더 나은 생존 예측 성능을 달성하는가?

주요 결과

• 합성 데이터에서 $n=100$, $p=10$, $nz=20$ 일 때, 탄성 라소는 음의 로그우도 3120.071을 기록하여 주효과만 포함된 라소(3140.337)와 전체 라소(3209.842)보다 우수한 성능을 보였다.
• 시간에 따라 변하는 경우 $n=500$, $p=10$, $nz=5$ 일 때, 탄성 라소는 음의 로그우도 4902.511을 기록하여 진짜 모델(4869.943)과 유사했으며, 주효과 선택에서 더 적은 거짓 양성률을 보였다.
• 319명의 환자와 134개 유전자를 포함한 NKI 유방암 데이터셋에서, 탄성 라소는 테스트 데이터에서 표준 라소보다 더 높은 AUC(ROC 곡선 아래 면적)를 기록했다.
• 테스트 세트에서 Cox 부분 로그우도 측면에서 탄성 라소는 라소(4892.897)보다 높은 4902.511을 기록했으며, 진짜 모델에 더 가까워 모델 적합도가 뛰어났다.
• 메인 효과 및 상호작용 효과에 대해 낮은 거짓 양성률과 거짓 음성률을 기록하며 관련된 상호작용 효과(시간에 따라 변하는 구성요소 포함)를 성공적으로 식별했다.
• 부분 우도에 대한 로지스틱 근사는 효율적인 계산을 가능하게 하였고, 특히 시간에 따라 변하는 설정에서 예측 성능도 유지했다.