[논문 리뷰] Estimating Structural Target Functions using Machine Learning and Influence Functions

Alicia Curth, Ahmed M. Alaa외 1명|arXiv (Cornell University)|2020. 08. 14.

Advanced Causal Inference Techniques참고 문헌 45인용 수 5

한 줄 요약

이 논문은 영향 함수를 사용하여 결측치 또는 개별 결과의 정보가 둔탁한 상황에서도 효율적이고 이중으로 강건한 추정을 가능하게 하는 기계학습 프레임워크인 IF-러닝을 소개한다. 이는 이질적 치료 효과와 같은 구조적 목표 함수를 추정하기 위한 것이다. 두 가지 알고리즘인 IF-러너와 그룹-IF-러너를 제안하며, 중심화되지 않은 영향 함수에서 유도된 가짜 결과를 사용하여 편향을 감소시키고, 일부 경우에 유효한 추론을 가능하게 한다. 실증 결과는 소규모 및 중간 규모 표본에서 표준 플러그인 방법에 비해 향상된 성능을 보였다.

ABSTRACT

We aim to construct a class of learning algorithms that are of practical value to applied researchers in fields such as biostatistics, epidemiology and econometrics, where the need to learn from incompletely observed information is ubiquitous. We propose a new framework for statistical machine learning of target functions arising as identifiable functionals from statistical models, which we call `IF-learning' due to its reliance on influence functions (IFs). This framework is problem- and model-agnostic and can be used to estimate a broad variety of target parameters of interest in applied statistics: we can consider any target function for which an IF of a population-averaged version exists in analytic form. Throughout, we put particular focus on so-called coarsening at random/doubly robust problems with partially unobserved information. This includes problems such as treatment effect estimation and inference in the presence of missing outcome data. Within this framework, we propose two general learning algorithms that build on the idea of nonparametric plug-in bias removal via IFs: the 'IF-learner' which uses pseudo-outcomes motivated by uncentered IFs for regression in large samples and outputs entire target functions without confidence bands, and the 'Group-IF-learner', which outputs only approximations to a function but can give confidence estimates if sufficient information on coarsening mechanisms is available. We apply both in a simulation study on inferring treatment effects.

연구 동기 및 목표

• 응용 통계에서 완전하지 않은 또는 개별 결과가 둔탁한 데이터가 있는 설정에서 구조적 목표 함수를 추정하기 위한 일반 목적의 기계학습 프레임워크를 개발하는 것.
• 이종적 치료 효과와 같은 복잡한 매개변수에 대해 데이터 적응형 기계학습 추정기에서 통계적 보장을 제공하지 못하는 문제를 해결하는 것.
• 진짜 영향 함수가 분석적으로 이용 가능하지 않은 경우에도 영향 함수를 사용하여 목표 매개변수의 효율적이고 이중으로 강건한 추정을 가능하게 하는 것.
• 모델이나 문제에 관계없이 전체 목표 함수에 대한 추정과 일부 경우에 추론(예: 신뢰구간)을 지원하는 모델 및 문제에 관계없는 접근법을 제공하는 것.
• 영향 함수를 활용하여 현대 기계학습과 전통적 반모수 추정 간 격차를 메우며, 편향 보정과 효율성 향상을 가능하게 하는 것.

제안 방법

• 영향 함수(IFs)를 사용하여 구조적 목표 함수의 플러그인 추정기(예: 진짜 목표 기능의 대체로 사용)를 구성하는 IF-러닝 프레임워크를 제안한다.
• 중심화되지 않은 영향 함수에서 유도된 가짜 결과를 사용하여 전체 목표 함수를 회귀를 통해 추정하는 IF-러너를 도입한다. 이 경우 신뢰구간은 제공하지 않는다.
• 목표 함수를 그룹으로 근사하여, 정보가 둔탁한 메커니즘이 알려져 있을 때 추론이 가능한 그룹-IF-러너를 개발한다.
• 비모수적 플러그인 편향 보정을 영향 함수를 통해 실시하여, 결측치가 있는 모델에서 점근적 효율성과 이중 강건성을 달성한다.
• 첫 번째 단계에서 오차와 성향 점수와 같은 부수적 매개변수를 추정하기 위해 크로스피팅과 기계학습 모델(예: 랜덤 포레스트)을 사용하여 과적합을 줄인다.
• 해석형 영향 함수의 형태가 이용 가능하지 않은 경우에도 영향 함수 기반의 편향 보정을 조건부 평균 치료 효과(CATE)와 같은 목표 매개변수에 적용한다.

실험 결과

연구 질문

• RQ1 영향 함수는 단순한 매개변수를 넘어서 복잡한 구조적 목표 함수에 대해 효율적이고 데이터 적응형 기계학습 추정기(예: CATE)를 구성하는 데 사용될 수 있는가?
• RQ2 결측치나 정보가 둔탁한 상황에서 영향 함수를 어떻게 활용하여 이중 강건성과 효율성을 달성할 수 있는가?
• RQ3 소규모 표본에서 이중 단계 추정의 분산 증가와 영향 함수 기반 편향 보정 간의 유한 표본에서의 트레이드오프는 어떠한가?
• RQ4 CATE 추정에서 평균 제곱오차(MSE) 측면에서 IF-러닝이 표준 플러그인 추정기보다 성능이 뛰어나게 되는 조건은 무엇인가?
• RQ5 정보가 둔탁한 메커니즘이 알려져 있을 때, 영향 함수 기반 추론을 사용하여 추정된 목표 함수에 대해 신뢰구간을 신뢰성 있게 구성할 수 있는가?

주요 결과

• 치료 효과가 덧셈형이 아니거나 데이터 생성 과정이 복잡한 경우, IF-러너는 CATE 추정에서 표준 플러그인 추정기보다 평균 제곱오차(MSE) 측면에서 일관되게 뛰어난 성능을 보였다.
• 소규모 표본(n=800)에서 비덧셈형 치료 효과에 대해 IF-러너는 평균 MSE 0.107(SE=0.003)을 기록했고, 플러그인 러너는 0.149를 기록하여, 표본 수가 적은 경우에도 성능 향상을 확인할 수 있었다.
• 복잡한 상호작용 구조(τ(x) = μ₀(x)ξ(x₁)ξ(x₂))를 가진 CATE에 대해, n=1600일 때 MSE는 플러그인 추정기에서 0.401에서 IF-러너로 0.252로 감소하여 복잡한 설정에서의 성능 향상이 뚜렷했다.
• 정보가 둔탁한 메커니즘이 알려져 있을 때 그룹-IF-러너는 유효한 신뢰구간 추정이 가능했으며, 기존 방법이 실패하는 상황에서 추론의 길을 열었다.
• 매우 단순하거나 매우 어려운 설정에서는 단순 플러그인 러너가 IF-러너보다 성능이 뛰어나, 영향 함수 기반의 편향 보정이 중간 정도의 복잡성에서 가장 유익한 것으로 나타났다.
• 소규모 표본에서 이중 단계 추정의 편향 감소와 분산 증가 간의 트레이드오프가 뚜렷하게 드러나, 성능 최적화를 위해 슈퍼러닝과 같은 개선된 정규화 기법이 필요함을 시사했다.