[논문 리뷰] Selective machine learning of doubly robust functionals

Yifan Cui, Eric Tchetgen Tchetgen|arXiv (Cornell University)|2019. 11. 05.

Statistical Methods and Inference참고 문헌 68인용 수 15

한 줄 요약

이 논문은 이중로버스트성(doubly robust)을 갖는 반모수적 기능을 추정하기 위한 선택적 기계학습 프레임워크를 제안한다. 이는 손실 함수의 편향을 최소화하기 위해 위험도 기반의 새로운 가짜 위험 측정 기준을 사용하여 위험도 모수의 최적 알고리즘을 선택한다. 이 방법은 다중 교차검증을 통해 오라클 유사 성능를 달성하며, 시뮬레이션과 실제 데이터를 통한 평가에서 평균 치료효과 추정에서 향상된 안정성을 보여준다.

ABSTRACT

While model selection is a well-studied topic in parametric and nonparametric regression or density estimation, selection of possibly high-dimensional nuisance parameters in semiparametric problems is far less developed. In this paper, we propose a selective machine learning framework for making inferences about a finite-dimensional functional defined on a semiparametric model, when the latter admits a doubly robust estimating function and several candidate machine learning algorithms are available for estimating the nuisance parameters. We introduce a new selection criterion aimed at bias reduction in estimating the functional of interest based on a novel definition of pseudo-risk inspired by the double robustness property. Intuitively, the proposed criterion selects a pair of learners with the smallest pseudo-risk, so that the estimated functional is least sensitive to perturbations of a nuisance parameter. We establish an oracle property for a multi-fold cross-validation version of the new selection criterion which states that our empirical criterion performs nearly as well as an oracle with a priori knowledge of the pseudo-risk for each pair of candidate learners. Finally, we apply the approach to model selection of a semiparametric estimator of average treatment effect given an ensemble of candidate machine learners to account for confounding in an observational study which we illustrate in simulations and a data application.

연구 동기 및 목표

• 반모수적 추론에서 고차원 위험도 모수에 대한 모델 선택 방법의 부족, 특히 기능적 관심 대상이 이중로버스트 추정 함수를 갖는 경우를 해결하기 위해.
• 위험도 모수 추정의 변동에 민감도를 최소화함으로써 기능 추정의 편향을 감소시키는 선택 기준을 개발하기 위해.
• 제안된 선택 기준의 교차검증 버전에 대해 이론적 보장, 특히 오라클 성질(oracle property)을 확립하기 위해.
• 관찰 연구에서 평균 치료효과 추정에 이 방법을 적용하여, 앙상블 기계학습 모델을 통해 혼동 요인을 고려하기 위해.
• 기능 감도를 고려하지 않고 단일 학습기를 사전 지정하는 기존 방법과 비교해, 추정의 더 높은 안정성과 정확도를 입증하기 위해.

제안 방법

• 이중로버스트성 성질에 기반한 새로운 가짜 위험 측정 기준을 도입한다. 이는 한 위험도 모수를 변형시키면서 다른 하나는 고정한 상태에서 기능 추정치의 평균 제곱편차로 정의된다.
• 각 후보 학습기 쌍(유도 확률 모수에 대한 하나, 결과 회귀에 대한 하나)에 대해 다중 교차검증을 사용하여 가짜 위험을 추정한다.
• 모든 후보 학습기 쌍 중에서 추정된 가짜 위험값이 가장 작은 쌍을 선택하며, 이는 어느 한 위험도 모수의 변동에 대해서도 가장 민감도가 낮은 조합에 해당한다.
• 표본 분할을 사용하여 기능 추정치와 분산을 계산함으로써 渐近 정규성과 타당한 추론을 보장한다.
• 라소, L1 정규화가 적용된 로지스틱 회귀, 기타 유연한 추정기와 같은 광범위한 후보 기계학습 모델에 이 선택 기준을 적용한다.
• 모델의 잘못된 지정 가능성을 고려하기 위해 선택 기준에 편향 보정 항을 도입하며, 이는 이중로버스트성 구조를 활용한다.

실험 결과

연구 질문

• RQ1 예측 오차가 아닌 편향 감소를 직접 목표로 하는 모델 선택 기준을 개발할 수 있는가?
• RQ2 가짜 위험 기반의 교차검증 선택 규칙이 진정한 가짜 위험를 모두 알고 있는 오라클에 가까운 성능을 달성하는가?
• RQ3 평균 치료효과 추정에서 타겟 최적화 추정법이나 슈퍼 러너와 같은 표준 방법과 비교해 본다면, 제안된 방법은 편향과 신뢰구간 커버리지 측면에서 어떻게 다른가?
• RQ4 이 방법은 결과 모형 또는 유도 확률 모형에서의 잘못된 지정에 대해 강건한 기계학습 알고리즘을 효과적으로 선택할 수 있는가?
• RQ5 고차원적 혼동 요인 설정에서 평균 치료효과에 대한 신뢰구간의 너비와 정확도에 모델 선택이 미치는 영향은 무엇인가?

주요 결과

• 가짜 위험 기반의 제안된 선택 기준은 오라클 성질을 확보한다. 즉, 진정한 가짜 위험값이 사전에 알려져 있는 것과 거의 동일한 성능을 낸다.
• SUPPORT 데이터 응용에서, 이 방법은 유도 확률 모형에 대해 L1 정규화가 적용된 로지스틱 회귀, 결과 모형에 대해 라소를 선택하여 평균 치료효과 추정치로 -0.0661을 도출하였다.
• 95% 신뢰구간은 (-0.0976, -0.0345)로 추정되었으며, 다른 개선된 추정기보다 略로 넓었지만, 더 나은 모델 선택으로 인한 편향 감소로 인해 더 정확할 수 있다.
• 이 추정치는 TMLE와 슈퍼 러너를 사용한 경우(-0.0586), BR 추정기(-0.0610에서 -0.0612), 캘리브레이션된 우도 추정기(-0.0622)보다 작았으며, 이는 이전 추정치가 여전히 소규모 모형 잘못 지정에 의한 편향에 영향을 받을 수 있음을 시사한다.
• 이 방법은 위험도 모수의 변동에 민감도가 낮은 모델을 선택함으로써 안정성을 입증하였으며, 반모수적 추론에서 편향 감소에 기여한다는 점을 뒷받침한다.
• 이론적 및 실증적 결과는 가짜 위험 기반의 편향 인식 모델 선택이 표준 방법보다 더 신뢰할 수 있는 추론을 가능하게 한다는 것을 확인한다.