[论文解读] To Impute or not to Impute? Missing Data in Treatment Effect Estimation

Jeroen Berrevoets, Fergus Imrie+3 more|arXiv (Cornell University)|Feb 4, 2022

Statistical Methods and Inference被引用 9

一句话总结

本文提出了混合混淆缺失（MCM）这一新型缺失机制，用于处理治疗效应估计中的缺失数据问题，其中缺失性既影响治疗分配，也受治疗分配影响。作者提出选择性填补策略——仅填补因混淆因素导致缺失的变量（而非因治疗导致缺失的变量），以避免因移除信息性缺失或引入协变量偏移而产生的偏差，显著提升了多种学习器在平均处理效应（ATE）和条件平均处理效应（CATE）估计中的表现。

ABSTRACT

Missing data is a systemic problem in practical scenarios that causes noise and bias when estimating treatment effects. This makes treatment effect estimation from data with missingness a particularly tricky endeavour. A key reason for this is that standard assumptions on missingness are rendered insufficient due to the presence of an additional variable, treatment, besides the input (e.g. an individual) and the label (e.g. an outcome). The treatment variable introduces additional complexity with respect to why some variables are missing that is not fully explored by previous work. In our work we introduce mixed confounded missingness (MCM), a new missingness mechanism where some missingness determines treatment selection and other missingness is determined by treatment selection. Given MCM, we show that naively imputing all data leads to poor performing treatment effects models, as the act of imputation effectively removes information necessary to provide unbiased estimates. However, no imputation at all also leads to biased estimates, as missingness determined by treatment introduces bias in covariates. Our solution is selective imputation, where we use insights from MCM to inform precisely which variables should be imputed and which should not. We empirically demonstrate how various learners benefit from selective imputation compared to other solutions for missing data. We highlight that our experiments encompass both average treatment effects and conditional average treatment effects.

研究动机与目标

• 解决缺失数据在治疗效应估计中的挑战，其中标准填补方法因缺失性、治疗与结果之间复杂依赖关系而失效。
• 指出缺失性可同时作为治疗分配的原因与结果，这一情形未被现有缺失机制所涵盖。
• 提出一种新型缺失机制——混合混淆缺失（MCM），用于建模缺失性在治疗选择与结果估计中的双重角色。
• 证明直接填补或不填补所有缺失变量会导致治疗效应估计偏差，因而需要更精细的处理方法。
• 开发并验证一种选择性填补策略，以保留与治疗相关的信息性缺失，同时纠正协变量偏移。

提出的方法

• 提出混合混淆缺失（MCM），一种图形模型，扩展了标准缺失机制（MCAR、MAR），引入治疗与缺失性之间的双向依赖关系。
• 将MCM形式化为结构因果模型，其中治疗 $W$ 同时导致并受到协变量缺失性（如 $\widetilde{X}$ 和 $Z$）的影响。
• 提出选择性填补：仅填补其缺失性并非由治疗引起之变量（即非 $\widetilde{X}^\dagger$），以保留与治疗相关的信息性缺失。
• 使用MICE（链式方程多重填补）进行填补，基于MCM分析结果选择性地应用。
• 通过MSE评估ATE，通过PEHE评估CATE，在XGBoost作为基学习器的T-learner、DR-learner与X-learner模型上评估性能。
• 在DR与X-learner中应用逆倾向得分加权（IPW）以校正选择偏差，并与选择性填补策略整合。

实验结果

研究问题

• RQ1 缺失性既由治疗选择引起又反作用于治疗选择，这种机制如何影响治疗效应估计？
• RQ2 在该机制下，对所有缺失变量进行朴素填补会产生何种后果？
• RQ3 选择性填补——即仅填补部分缺失变量——是否能优于全量填补或不填补，从而改善治疗效应估计？
• RQ4 不同治疗效应学习器（T-learner、DR-learner、X-learner）在选择性填补与其他缺失数据策略下的表现如何？
• RQ5 选择性填补是否能降低平均处理效应（ATE）与条件平均处理效应（CATE）估计中的偏差？

主要发现

• 对所有缺失变量进行填补会导致性能下降，因其移除了与治疗相关的信息性缺失，加剧选择偏差。
• 对所有变量保持未填补状态会引入偏差，因为治疗引起的缺失性导致处理组与对照组之间出现协变量偏移。
• 选择性填补——特别是仅填补 $\widetilde{X}$ 而不填补 $\widetilde{X}^\dagger$——显著降低了所有学习器在ATE估计中的MSE。
• 在CATE估计中，选择性填补实现了最低的PEHE（异质效应估计精度），优于全量填补与不填补策略。
• 选择性填补的改进效果在多种学习器（T-learner、DR-learner、X-learner）中保持一致，展现出稳健性。
• 实证结果证实，填补错误变量（如 $\widetilde{X}^\dagger$）会持续降低性能，验证了MCM理论逻辑的合理性。