[论文解读] A Unified Theory of Regression Adjustment for Design-based Inference

Joel A. Middleton|arXiv (Cornell University)|Mar 15, 2018

Advanced Causal Inference Techniques被引用 12

一句话总结

本文为具有任意设计的随机化实验中的回归调整提出统一框架，提出两种渐近最优估计量——基于Horvitz-Thompson加权和递归广义回归——相较于标准OLS，可提高估计精度。该文推导出更紧致的方差界，并通过模拟表明，在聚类随机化设计中，这些估计量可将均方误差降低多达60%。

ABSTRACT

Under the Neyman causal model, it is well-known that OLS with treatment-by-covariate interactions cannot harm asymptotic precision of estimated treatment effects in completely randomized experiments. But do such guarantees extend to experiments with more complex designs? This paper proposes a general framework for addressing this question and defines a class of generalized regression estimators that are applicable to experiments of any design. The class subsumes common estimators (e.g., OLS). Within that class, two novel estimators are proposed that are applicable to arbitrary designs and asymptotically optimal. The first is composed of three Horvitz-Thompson estimators. The second recursively applies the principle of generalized regression estimation to obtain regression-adjusted regression adjustment. Additionally, variance bounds are derived that are tighter than those existing in the literature for arbitrary designs. Finally, a simulation study illustrates the potential for MSE improvements.

研究动机与目标

• 解决在完全随机化之外的复杂实验设计中，回归调整缺乏一般性理论保证的问题。
• 为包括聚类、分块和基于网络的设计在内的任意设计，构建一个适用于Neyman-Rubin因果模型的一般性框架。
• 提出两种普遍适用的渐近最优回归估计量，以提升估计精度。
• 为基于设计的推断推导更紧致的方差界，其准确性优于现有文献中针对任意设计的方差界。
• 通过模拟展示，所提估计量在复杂设计下可实现显著降低均方误差（MSE）的潜力。

提出的方法

• 提出一类广义回归估计量，涵盖OLS并适用于任意设计，采用统一记号以实现紧凑推导。
• 引入两种新估计量：一种结合三个Horvitz-Thompson估计量，另一种采用递归广义回归估计。
• 通过递归应用Horvitz-Thompson原理（逆概率加权）与广义回归原理，实现渐近最优性。
• 基于重新参数化的基于设计的框架推导方差界，改进了文献中已有的方差界。
• 通过5,000次聚类随机化实验的随机化模拟研究，比较不同协变量设定下估计量的表现。
• 采用包含聚类特定随机效应和异方差误差的有限总体数据生成过程，以反映现实实验条件。

实验结果

研究问题

• RQ1 在超越完全随机化的复杂设计实验中，使用处理-协变量交互项的回归调整是否能保持或提升渐近精度？
• RQ2 在任意设计下，渐近最优回归估计量的一般形式是什么？
• RQ3 如何为任意设计下的回归调整估计量推导更紧致的方差界？
• RQ4 在复杂设计下，所提估计量是否在均方误差（MSE）方面优于标准OLS？
• RQ5 模型误设与过拟合对聚类随机化实验中回归调整估计量性能有何影响？

主要发现

• 在模拟的前两个协变量设定（x 和 x, xc）中，所提出的2R!估计量（递归回归调整）相较于WLS/OLS将MSE降低了约60%。
• 在第三个设定（x, xc, nc）中，2R!估计量的MSE比基准WLS/OLS估计量低约13%。
• 在最后一个设定（x, xc, nc, n²c）中，2R!与WLS/OLS的MSE表现相近，但两者相比第三个设定均出现MSE上升，表明存在模型过拟合。
• 3HT!估计量整体表现较差，MSE较高，主要由于存在显著偏差，尤其在早期设定中更为明显。
• OLS与聚类总和估计量在早期设定中表现良好，相较于WLS/OLS将MSE降低了约60%。
• 本文推导的理论方差界比现有文献中针对任意设计的方差界更紧致，尤其在聚类随机化下表现更优。