[논문 리뷰] Higher Order Targeted Maximum Likelihood Estimation

Mark van der Laan, Zeyi Wang외 1명|arXiv (Cornell University)|2021. 01. 15.

Statistical Methods and Inference참고 문헌 26인용 수 4

한 줄 요약

이 논문은 유한 표본 추론을 향상시키기 위해 표준 TMLE에서의 일阶 잔여항을 k+1차 잔여항으로 대체하는 고차수 타겟드 최대우도추정기법(k-th order TMLE)을 제안한다. 이는 편향을 제어하기 위해 고도의 적응형 라소(HAL) 정규화를 활용한다. 이 방법은 더 약한 정규성 조건 하에서도 점근적 선형성과 타당한 추론을 보장하며, 시뮬레이션 결과는 일계 TMLE에 비해 더 나은 커버리지와 편향 감소를 확인한다.

ABSTRACT

Asymptotic efficiency of targeted maximum likelihood estimators (TMLE) of target features of the data distribution relies on a a second order remainder being asymptotically negligible. In previous work we proposed a nonparametric MLE termed Highly Adaptive Lasso (HAL) which parametrizes the relevant functional of the data distribution in terms of a multivariate real valued cadlag function that is assumed to have finite variation norm. We showed that the HAL-MLE converges in Kullback-Leibler dissimilarity at a rate n-1/3 up till logn factors. Therefore, by using HAL as initial density estimator in the TMLE, the resulting HAL-TMLE is an asymptotically efficient estimator only assuming that the relevant nuisance functions of the data density are cadlag and have finite variation norm. However, in finite samples, the second order remainder can dominate the sampling distribution so that inference based on asymptotic normality would be anti-conservative. In this article we propose a new higher order TMLE, generalizing the regular first order TMLE. We prove that it satisfies an exact linear expansion, in terms of efficient influence functions of sequentially defined higher order fluctuations of the target parameter, with a remainder that is a k+1th order remainder. As a consequence, this k-th order TMLE allows statistical inference only relying on the k+1th order remainder being negligible. We also provide a rationale for the higher order TMLE that it will be superior to the first order TMLE by (iteratively) locally minimizing the exact finite sample remainder of the first order TMLE. The second order TMLE is demonstrated for nonparametric estimation of the integrated squared density and for the treatment specific mean outcome. We also provide an initial simulation study for the second order TMLE of the treatment specific mean confirming the theoretical analysis.

연구 동기 및 목표

• 비가소한 이阶 잔여항으로 인해 발생하는 타겟드 최대우도추정기법(TMLE)의 유한 표본 편향을 해결하기 위해.
• 정확한 선형 전개를 보장하고 k+1차 잔여항을 갖는 k-차수 TMLE 프레임워크를 개발하기 위해.
• HAL-정규화된 고차수 TMLE가, 정규화 편향이 무시할 수 없을 정도로 작아지도록 하여, 특히 오버스무딩 없이도 유한 표본에서 편향을 효과적으로 제어할 수 있음을 보여주기 위해.
• 초기 추정기 주변에서 첫 번째 차수 TMLE의 정확한 잔여항을 반복적으로 최소화함으로써 고차수 TMLE의 유한 표본 이론적 근거를 제공하기 위해.
• 진실값에서 첫 번째 차수 캐논컬 그래디언트가 0이 되는 경우에도, 두 번째 차수 영향 곡선을 사용하여 추론을 가능하게 하기 위해.

제안 방법

• 목표 파rameter의 고차수 변동을 순차적으로 타겟팅하기 위해, 최소 유리한 경로를 따라 HAL-정규화된 MLE를 사용하는 k-차수 TMLE를 제안한다.
• 모든 단계에서 점수 값이 변형된 파rameter의 캐논컬 그래디언트와 일치하도록 보장하기 위해, 보편적인 최소 유리한 경로 구축을 활용한다.
• 고차수 변동의 효율적 영향 함수를 바탕으로 k-차수 TMLE의 정확한 전개를 유도하며, 이는 k+1차 잔여항을 포함한다.
• HAL-정규화 편향을 제어하기 위해 HAL-MLE의 L1-노름을 제한함으로써, 오버스무딩 없이도 점근적으로 무시할 수 있는 수준으로 유지됨을 보장한다.
• empirical process 이론과 엔트로피 경계를 활용하여, 최소한의 부드러움 가정 하에 k+1차 잔여항이 무시할 수 있음을 입증한다.
• 이중 연산자와 대칭 행렬 역행렬을 이용한 체계적 알고리즘을 제공하여, 표준 소프트웨어로의 자동화된 구현을 가능하게 한다.

실험 결과

연구 질문

• RQ1 오버스무딩에 의존하지 않고도 잔여항이 k+1차 수준이 되는 k-차수 TMLE를 구성할 수 있는가?
• RQ2 누이스처 추정기의 HAL 정규화가 표본 크기가 유한할 때도 정규화 편향이 무시할 수 있을 정도로 작아지도록 보장하는가?
• RQ3 고차수 TMLE가 유한 표본에서 일계 TMLE에 비해 커버리지 향상과 편향 감소를 달성할 수 있는가?
• RQ4 진실값에서 첫 번째 차수 캐논컬 그래디언트가 0이 되는 경우에도, 두 번째 차수 영향 곡선을 사용하여 추론을 수행할 수 있는가?
• RQ5 표준 회귀 또는 행렬 역행렬 도구를 사용하여 고차수 캐논컬 그래디언트를 체계적으로 계산할 수 있는가?

주요 결과

• k-차수 TMLE는 정확한 선형 전개를 만족하며, 잔여항이 k+1차 수준이므로 이 잔여항의 무시 가능성에 기반한 추론이 가능하다.
• HAL-정규화 편향은 HAL-MLE의 L1-노름 제어 덕분에 오버스무딩 없이도 충분히 작은 순서로 유지됨이 보장된다.
• 통합 제곱 밀도와 치료별 평균 결과의 비모수적 추정에 대한 시뮬레이션 결과, 두 번째 차수 TMLE가 일계 TMLE에 비해 편향 감소와 신뢰구간 커버리지 향상을 보였다.
• 실제로 계산된 고차수 TMLE는 오버스무딩된 버전과 유사한 성능을 보였으며, 이는 강건하고 권장되는 선택임을 시사한다.
• 첫 번째 차수 캐논컬 그래디언트가 진실값에서 0이 되는 경우에도, 두 번째 차수 영향 곡선을 사용함으로써 비퇴화된 극한 분포를 확보할 수 있어 추론이 가능하다.
• 이중 연산자와 행렬 역행렬을 활용한 체계적 알고리즘을 제공함으로써, 표준 소프트웨어로의 실용적 구현이 가능하다.