[论文解读] Primal-dual Covariate Balance and Minimal Double Robustness via Entropy Balancing

Qingyuan Zhao|arXiv (Cornell University)|Jan 15, 2015

Advanced Causal Inference Techniques参考文献 35被引用 4

一句话总结

本文提出了一种使用熵平衡（Entropy Balancing, EB）进行因果推断的创新方法，通过原始-对偶优化框架实现精确协变量平衡。通过将EB的原始问题与对偶问题分别与结果回归和倾向得分模型关联，作者证明当两种模型均正确设定时，EB可实现最小双 robust 性和渐近半参数效率，为传统加权方法提供了一种统计上更优越的替代方案。

ABSTRACT

Covariate balance is a conventional key diagnostic for methods used estimating causal effects from observational studies. We show covariate balance can also be directly used in the estimation of mean causal effects by studying a recently proposed entropy maximization method called Entropy Balancing (EB). In order to avoid the tautology of repeatedly checking covariate balance, EB exactly matches the covariate moments for the different experimental groups in its optimization problem. We find that the primal and dual problems of EB correspond, respectively, to the implicit linear model of outcome and propensity score logistic regression, with features being the balanced moments. Consequently, we prove EB enjoys some desirable statistical properties: it is doubly robust with respect to the linear models and reaches the asymptotic semiparametric variance bound when both models are correct. Our theoretical results and simulations suggest EB is a very appealing alternative to the conventional propensity score weighting estimators.

研究动机与目标

• 解决观察性因果推断中对重复协变量平衡检查的循环依赖问题。
• 开发一种方法，在不进行迭代诊断的情况下，直接在处理组之间实现精确的矩平衡。
• 建立熵平衡与标准回归模型（结果模型与倾向得分模型）之间的理论联系。
• 证明当模型设定正确时，EB 可实现双 robust 性与效率。
• 为传统倾向得分加权方法提供一种理论基础坚实、统计效率更高的替代方案。

提出的方法

• 将熵平衡形式化为一个约束优化问题，精确匹配处理组之间的协变量矩。
• 推导出EB的对偶问题，其对应于使用平衡矩作为特征的倾向得分的逻辑回归模型。
• 揭示EB的原始问题对应于使用相同平衡矩作为协变量的结果回归模型。
• 利用拉格朗日对偶性，正式建立原始问题与对偶问题分别与结果和倾向得分的线性模型之间的联系。
• 证明当结果模型与倾向得分模型均正确设定时，EB 可达到半参数方差界。
• 采用熵最大化方法，推导出在强制实现矩平衡的同时，与均匀权重差异最小的权重。

实验结果

研究问题

• RQ1 是否可以将精确协变量平衡直接嵌入估计过程，从而消除迭代平衡检查？
• RQ2 熵平衡的原始问题与对偶问题如何与因果推断中的标准回归模型相关联？
• RQ3 当结果模型或倾向得分模型其中之一正确时，熵平衡是否仍能实现双 robust 性？
• RQ4 当模型设定正确时，熵平衡是否能达到半参数效率界？
• RQ5 与传统倾向得分加权方法相比，熵平衡在统计效率与稳健性方面表现如何？

主要发现

• 熵平衡通过构造即实现处理组之间的精确矩平衡，消除了对事后平衡诊断的需求。
• EB 的原始问题对应于使用平衡矩作为协变量的结果回归模型。
• EB 的对偶问题对应于使用相同平衡矩作为特征的倾向得分的逻辑回归模型。
• EB 具有双 robust 性：当结果模型或倾向得分模型其中之一正确设定时，可提供一致的估计。
• 当结果模型与倾向得分模型均正确设定时，EB 可达到渐近半参数方差界。
• 模拟与理论结果共同证实，EB 是传统倾向得分加权方法在统计上更优越的替代方案。