[논문 리뷰] A general theory of regression adjustment for covariate-adaptive randomization: OLS, Lasso, and beyond

Hanzhong Liu, Fuyi Tu외 1명|arXiv (Cornell University)|2020. 11. 19.

Advanced Causal Inference Techniques참고 문헌 40인용 수 6

한 줄 요약

이 논문은 고차원 공변량과 모형 오특정이 존재하는 상황에서도 일반선형제곱법(OLS)과 Lasso를 사용하여 강력하고 효율적인 치료 효과 추정이 가능한, 공변량 적응형 랜덤화 실험에서의 회귀 조정을 위한 일반 이론을 개발한다. 점차적 정규성과 일致한 분산 추정량을 확립하여, 블록 분류 및 최소화 설계를 포함한 다양한 랜덤화 방법에서 개선된 효율성과 타당성을 입증한다.

ABSTRACT

We consider the problem of estimating and inferring treatment effects in randomized experiments. In practice, stratified randomization, or more generally, covariate-adaptive randomization, is routinely used in the design stage to balance the treatment allocations with respect to a few variables that are most relevant to the outcomes. Then, regression is performed in the analysis stage to adjust the remaining imbalances to yield more efficient treatment effect estimators. Building upon and unifying the recent results obtained for ordinary least squares adjusted estimators under covariate-adaptive randomization, this paper presents a general theory of regression adjustment that allows for arbitrary model misspecification and the presence of a large number of baseline covariates. We exemplify the theory on two Lasso-adjusted treatment effect estimators, both of which are optimal in their respective classes. In addition, nonparametric consistent variance estimators are proposed to facilitate valid inferences, which work irrespective of the specific randomization methods used. The robustness and improved efficiency of the proposed estimators are demonstrated through a simulation study and a clinical trial example. This study sheds light on improving treatment effect estimation efficiency by implementing machine learning methods in covariate-adaptive randomized experiments.

연구 동기 및 목표

• 임의의 모형 오특정이 존재하더라도 유효한 바탕이 되는 통합 프레임워크를 개발하여 공변량 적응형 랜덤화 실험에서의 회귀 조정을 위한 이론적 기반을 마련한다.
• 표본 크기보다 공변량의 수가 많은 고차원 설정으로의 강력한 추론을 확장하여, 전통적 OLS의 한계를 극복한다.
• 특정 랜덤화 방법에 의존하지 않는 비모수적이고 일致한 분산 추정량을 제안하여, 다양한 상황에서 타당한 추론을 보장한다.
• 시뮬레이션 연구와 실제 임상 시험 데이터를 통해 Lasso 조정 추정량의 효율성과 강건성을 입증한다.
• 기존의 OLS 조정 추정량에 대한 결과를 일반화하여, 더 넓은 적용 범위로 확장한다.

제안 방법

• 임의의 모형 오특정과 고차원 공변량을 허용하는 공변량 적응형 랜덤화에서의 회귀 조정을 위한 일반 프레임워크를 제안한다.
• 유사한 정규성 조건 하에서 OLS 및 Lasso 조정 추정량의 점차적 정규성을 도출하여 타당한 추론을 보장한다.
• 특정 랜덤화 메커니즘에 의존하지 않는 비모수적이고 일치하는 분산 추정량을 도입하여 강건한 추론을 가능하게 한다.
• 두 가지 Lasso 조정 추정량에 이론을 적용한다: 하나는 분류 간 공통 모델을 사용하고, 다른 하나는 분류별로 별도의 모델을 사용하며, 각각의 클래스 내에서 최적임이 입증된다.
• 유한모집단 프레임워크를 사용하여 잠재적 결과와 치료 배정을 모델링하여, 랜덤화 실험에서의 설계 기반 추론을 가능하게 한다.
• 이론적 결과의 타당성을 검증하고 다양한 랜덤화 방법 간 성능을 비교하기 위해 시뮬레이션 연구와 실제 임상 시험(Nefazodone CBASP)을 활용한다.

실험 결과

연구 질문

• RQ1 고차원 공변량이 존재하는 공변량 적응형 랜덤화 하에서 Lasso를 사용한 회귀 조정이 치료 효과 추정에 대해 타당하고 효율적인가?
• RQ2 다양한 랜덤화 설계 하에서 OLS 및 비조정 추정량에 비해 Lasso 조정 추정량의 편향, 표준오차, 신뢰구간 포함확률은 어떻게 되는가?
• RQ3 특정 랜덤화 방법에 관계없이 타당한 추론을 보장하는 일致한 비모수적 분산 추정량을 구성할 수 있는가?
• RQ4 모형 오특정은 공변량 적응형 설계에서 회귀 조정 추정량의 성능에 어떤 영향을 미치는가?
• RQ5 공변량의 수가 많을 경우, Lasso 조정 추정량은 비조정 또는 OLS 조정 추정량보다 더 높은 효율성을 달성하는가?

주요 결과

• Lasso 조정 추정량은 특히 고차원 설정에서 비조정 추정량에 비해 편향이 거의 없고 표준오차가 크게 감소한다.
• 제안된 분산 추정량 기반 95% 신뢰구간의 포함확률은 모든 랜덤화 방법과 표본 크기에서 명목 수준(약 0.95)에 매우 가까운 것으로 나타났다.
• 모형 오특정과 복잡한 랜덤화 설계 하에서도 제안된 비모수적 분산 추정량은 정확한 크기와 포함확률을 유지한다.
• n=500이고 π=2/3인 시뮬레이션에서 Lasso 조정 추정량의 표준오차는 약 0.39–0.40이었고, 비조정 추정량은 1.17–1.19였으며, 이는 상당한 효율성 향상을 의미한다.
• 시뮬레이션 결과는 공변량의 수가 많고 모형이 오특정일 가능성이 있는 상황에서 Lasso 조정 추정량이 OLS 조정 추정량보다 효율성이 뛰어나다는 것을 보여준다.
• 실제 Nefazodone CBASP 임상 시험 데이터는 이론적 결과를 확인하였으며, Lasso 조정이 비조정 또는 OLS 조정 방법보다 더 정밀하고 강건한 치료 효과 추정을 제공한다는 것을 입증하였다.