[论文解读] Optimal A Priori Balance in the Design of Controlled Experiments

Nathan Kallus|arXiv (Cornell University)|Dec 2, 2013

Optimal Experimental Design Methods被引用 8

一句话总结

本文提出了一套统一的实验设计框架，通过极小化方差优化和一种名为核分配（kernel allocation）的新方法，实现基线协变量的最优先验平衡。通过在结构化函数空间（参数或非参数）中建模结果对协变量的依赖关系，推导出不平衡度量和最优设计，恢复并改进了现有方法（如重随机化和成对匹配），在合成数据和真实世界示例中均展现出更优的精度和统计功效，且具有强有力的方差、一致性和收敛速率理论保证。

ABSTRACT

We develop a unified theory of designs for controlled experiments that balance baseline covariates a priori (before treatment and before randomization) using the framework of minimax variance and a new method called kernel allocation. We show that any notion of a priori balance must go hand in hand with a notion of structure, since with no structure on the dependence of outcomes on baseline covariates complete randomization (no special covariate balance) is always minimax optimal. Restricting the structure of dependence, either parametrically or non-parametrically, gives rise to certain covariate imbalance metrics and optimal designs. This recovers many popular imbalance metrics and designs previously developed ad hoc, including randomized block designs, pairwise-matched allocation and rerandomization. We develop a new design method called kernel allocation based on the optimal design when structure is expressed by using kernels, which can be parametric or non-parametric. Relying on modern optimization methods, kernel allocation, which ensures nearly perfect covariate balance without biasing estimates under model misspecification, offers sizable advantages in precision and power as demonstrated in a range of real and synthetic examples. We provide strong theoretical guarantees on variance, consistency and rates of convergence and develop special algorithms for design and hypothesis testing.

研究动机与目标

• 开发一个统一的实验设计理论，通过极小化方差优化确保基线协变量的先验平衡。
• 形式化结构假设在协变量与结果关系中的作用，以确定最优不平衡度量和设计。
• 提出核分配——一种基于核函数空间的新设计方法，可在模型误设下确保近乎完美的协变量平衡，且不引入因果估计偏差。
• 为所提方法提供方差、一致性和收敛速率的理论保证。
• 通过实证结果表明，核分配在多样化实验设置中均优于现有方法，展现出更高的精度和统计功效。

提出的方法

• 采用极小化方差框架，推导出通过控制处理前协变量失衡来最小化处理后估计方差的最优设计。
• 提出核分配作为新设计方法，基于再生核希尔伯特空间（RKHS）表示结构假设，支持协变量对结果依赖关系的参数化与非参数化建模。
• 根据条件期望函数空间的假设结构，基于组均值和方差的马氏距离或基于核的差异度量来定义不平衡度量。
• 采用现代优化技术，包括混合整数规划和半定规划，计算在各种不平衡约束下的最优分配。
• 利用泛函分析，包括巴拿赫空间和希尔伯特空间中的Rademacher型和B-凸性论证，推导估计方差和一致性的理论界。
• 开发针对设计生成和假设检验的专用算法，对模型误设具有鲁棒性，并确保有效推断。

实验结果

研究问题

• RQ1 在结果对基线协变量依赖关系的何种结构假设下，先验平衡有助于最小化处理后估计方差？
• RQ2 如何构建一个统一框架，以恢复并推广现有的先验平衡方法（如重随机化、分块设计和成对匹配）？
• RQ3 预处理不平衡度量与因果推断中处理后估计误差之间存在何种理论关系？
• RQ4 在模型误设下，核分配与现有方法在精度、统计功效和鲁棒性方面的表现如何比较？
• RQ5 在所提设计框架下，估计量的方差、一致性和收敛速率具有何种理论保证？

主要发现

• 由于基于最优核基不平衡度量进行设计，核分配即使在模型误设下也能实现近乎完美的协变量平衡，且不引入因果估计偏差。
• 理论分析表明，在弱正则性条件下，估计量 ˆτkk0 是强一致的，且其估计误差 |Dkk0| 几乎必然收敛于零，当样本量增加时。
• 该方法提供了强有力的有限样本方差界：Var(Dkk0) ≤ (1 − 1/m)(||fk|| + ||fk0||)² E[M²_opt]，确保其精度优于完全随机化。
• 在合成数据和真实世界示例中，核分配在方差缩减和统计功效方面均优于重随机化和成对匹配。
• 该框架可恢复并推广现有方法：随机分块设计、成对匹配和重随机化在特定结构假设下均为其特例。
• 通过泛函分析建立了理论收敛速率，表明当 n → ∞ 时，M²_P(W⁰) → 0 几乎必然，意味着设计引起的偏差在渐近下消失。