[论文解读] Sampling-based vs. Design-based Uncertainty in Regression Analysis

Alberto Abadie, Susan Athey+2 more|arXiv (Cornell University)|Jun 6, 2017

Advanced Causal Inference Techniques参考文献 37被引用 11

一句话总结

本文提出了一种基于设计的回归分析推断框架，以处理由潜在干预引起的不确定性，而非仅依赖于基于抽样的标准误。该框架推导出的标准误通常更小且在观测到整个有限总体时有效，例如在州级或网站访问数据等情形下，为这类场景下传统基于抽样的推断提供了一种更合适的替代方案。

ABSTRACT

Consider a researcher estimating the parameters of a regression function based on data for all 50 states in the United States or on data for all visits to a website. What is the interpretation of the estimated parameters and the standard errors? In practice, researchers typically assume that the sample is randomly drawn from a large population of interest and report standard errors that are designed to capture sampling variation. This is common even in applications where it is difficult to articulate what that population of interest is, and how it differs from the sample. In this article, we explore an alternative approach to inference, which is partly design-based. In a design-based setting, the values of some of the regressors can be manipulated, perhaps through a policy intervention. Design-based uncertainty emanates from lack of knowledge about the values that the regression outcome would have taken under alternative interventions. We derive standard errors that account for design-based uncertainty instead of, or in addition to, sampling-based uncertainty. We show that our standard errors in general are smaller than the usual infinite-population sampling-based standard errors and provide conditions under which they coincide.

研究动机与目标

• 解决在观测到整个有限总体（如全部50个美国州或全部网站访问）的场景下，对基于抽样的推断的误用问题。
• 形式化一个基于设计的不确定性框架，以考虑反事实干预下的潜在结果。
• 推导在基于抽样和基于设计的不确定性下均有效的标准误，特别是在有限总体设定下。
• 表明基于设计的标准误通常小于传统的基于抽样的标准误，尤其当样本量相对于总体较大时。
• 为观测研究和回归分析中提供理论基础，其中随机抽样假设不自然或不适用。

提出的方法

• 构建一个将总体视为固定、并将不确定性视为源于不同干预下潜在结果的框架，而非源于随机抽样。
• 基于潜在结果和假设干预下估计对比的方差，提出基于设计的标准误。
• 使用潜在结果框架（例如，Y_i(1), Y_i(0)）定义估计量，并在基于设计的推断下推导渐近方差估计量。
• 推导出稳健的方差估计量（例如，EHW型），以考虑基于设计的异方差性，并在有限总体中实现异方差稳健推断。
• 运用鞅和经验过程论证，在弱矩条件和矩条件假设下，建立估计量的渐近正态性和一致性。
• 在正则条件下，证明方差估计量（例如，Δ̂_n^Z）以概率收敛到其总体极限，从而确保有效推断。

实验结果

研究问题

• RQ1 当观测到整个有限总体（例如全部50个美国州）时，回归分析中标准误的正确解释是什么？
• RQ2 在有限总体设定下，基于设计的标准误与传统的基于抽样的标准误相比如何？
• RQ3 在何种条件下，基于设计的标准误与基于抽样的标准误一致？
• RQ4 稳健方差估计量能否被调整以考虑回归模型中的基于设计的不确定性？
• RQ5 当总体固定且仅观测到部分潜在结果时，基于设计推断下估计量的渐近性质是什么？

主要发现

• 基于设计的标准误通常小于传统的基于抽样的标准误，尤其当样本量相对于总体较大时。
• 所提出的基于设计的标准误即使在观测到整个有限总体（如州级或网站访问数据）时也有效。
• 该框架统一了基于抽样和基于设计的不确定性，使推断能够同时考虑两种变异来源。
• 在正则条件下，所提出的方差估计量（例如，Δ̂_n^Z）是一致的，并以概率收敛到其总体极限。
• 在极限下，矩阵不等式 Δ^cond ≤ Δ^Z ≤ Δ^ehw 成立，表明与异方差稳健估计量相比，基于设计的调整可降低方差。
• 本文证明，在弱矩条件下（包括总体固定且仅关注干预下潜在结果的情形），基于设计的推断是渐近有效的。