[논문 리뷰] Oracle inequalities for the Lasso in the high-dimensional multiplicative Aalen intensity model

Sarah Lemler|arXiv (Cornell University)|2012. 06. 25.

Statistical Methods and Inference참고 문헌 1인용 수 5

한 줄 요약

이 논문은 고차원 다중곱 Aalen 모형에서 조건부 강도를 추정하기 위해 데이터 기반 가중 Lasso 절차를 제안한다. 기준 위험과 상대 위험을 근사하기 위한 두 개의 사전자료집합을 사용하며, 마팅게일 경험 베르누이 부등식과 수정된 자기일관 함수를 활용하여 경험 칼리브크 발산의 비점근적 오ракル 부등식을 수립한다.

ABSTRACT

In a general counting process setting, we consider the problem of obtaining a prognostic on the survival time adjusted on covariates in high-dimension. Towards this end, we construct an estimator of the whole conditional intensity. We estimate it by the best Cox proportional hazards model given two dictionaries of functions. The first dictionary is used to construct an approximation of the logarithm of the baseline hazard function and the second to approximate the relative risk. We introduce a new data-driven weighted Lasso procedure to estimate the unknown parameters of the best Cox model approximating the intensity. We provide non-asymptotic oracle inequalities for our procedure in terms of an appropriate empirical Kullback divergence. Our results rely on an empirical Bernstein's inequality for martingales with jumps and properties of modified self-concordant functions.

연구 동기 및 목표

• 카운팅 프로세스 프레임워크 하에서 고차원 생존 데이터의 조건부 강도에 대한 강건한 추정기 개발
• 고차원 공변량 조정 생존 모형에서의 변수 선택 및 추정 과제 해결
• 강도 모형의 잠재적 희박성에 적응하는 데이터 기반 Lasso 절차 구축
• 경험 발산 측도를 사용하여 제안된 추정기의 점근적이지 않은 이론적 보장을 수립
• 마팅게일 농도 불등식과 수정된 자기일관 함수를 통합하여 기존 생존 분석 결과의 확장

제안 방법

• 방법은 로그 기준 위험과 상대 위험을 위한 두 개의 사전자료집합에서 최적의 코ックス 비례위험 모형을 선택하여 조건부 강도의 추정기 구축
• 최적의 근사 코克斯 모형의 미지 매개변수를 추정하기 위해 새로운 데이터 기반 가중 Lasso 절차 도입
• 도약을 가진 마팅게일에 특화된 경험 베르누이 부등식을 사용하여 강건한 농도 경계 확보
• 이론적 분석은 추정 문제의 복잡성을 제어하기 위해 수정된 자기일관 함수의 성질에 기반
• 추정 오차는 경험 칼리브크 발산의 관점에서 경계가 매겨지며, 점근적이지 않은 성능 보장을 제공
• 기능 근사와 고차원 정규화를 결합하여 희박한 설정에서 최적의 추정 달성

실험 결과

연구 질문

• RQ1 공변량이 있는 고차원 다중곱 Aalen 모형에서 조건부 강도를 일致적으로 추정할 수 있는 방법은 무엇인가?
• RQ2 이 비모수적 생존 모형에서 Lasso 기반 추정기의 최적 수렴 속도는 무엇인가?
• RQ3 카운팅 프로세스 맥락에서 데이터 기반 Lasso 절차에 대해 점근적이지 않은 오라클 부등식을 유도할 수 있는가?
• RQ4 도약을 가진 마팅게일 농도 불등식은 생존 모형의 이론적 분석에 어떻게 기여하는가?
• RQ5 수정된 자기일관 함수는 고차원 강도 모형에서 추정 오차를 통제하는 데 어떤 역할을 하는가?

주요 결과

• 제안된 가중 Lasso 절차는 경험 칼리브크 발산의 관점에서 점근적이지 않은 오라클 부등식을 달성하여 최적의 추정 성능 보장
• 서브가우시안 또는 유계 오차 가정 없이도 이론적 보장을 제공하며, 마팅게일 농도에 의존
• 수정된 자기일관 함수의 사용은 고차원 설정에서 모형 공간의 복잡성에 대한 더 엄격한 통제 가능
• 도약 마팅게일을 위한 경험 베르누이 부등식은 추정 오차의 날카운 편차 경계 유도에 핵심적 역할
• 데이터 기반 가중치 부여 방식은 적응성을 향상시켜 희박성 수준이 알려지지 않은 상황에서도 우수한 성능 달성 가능
• 결과는 점근적이지 않으며 모형 공간 전역에서 균일하게 성립하여 유한 표본 설정에 적용 가능