[论文解读] A Robust Permutation Test for Subvector Inference in Linear Regressions

Xavier D’Haultfœuille, Purevdorj Tuvaandorj|arXiv (Cornell University)|May 13, 2022

Advanced Statistical Methods and Models被引用 6

一句话总结

该论文提出了一种针对线性回归中子向量推断的鲁棒置换检验（分层随机化检验，SR），在给定无关变量下回归变量与误差项条件独立时为精确检验，在弱外生性条件下渐近有效。该检验按离散无关回归变量的取值对数据进行分层，在各层内进行置换，当分层数相对于样本量较小时，能保持正确的大小和功效，从而在异方差性和依赖性条件下实现更优的有限样本性能。

ABSTRACT

We develop a new permutation test for inference on a subvector of coefficients in linear models. The test is exact when the regressors and the error terms are independent. Then, we show that the test is asymptotically of correct level, consistent and has power against local alternatives when the independence condition is relaxed, under two main conditions. The first is a slight reinforcement of the usual absence of correlation between the regressors and the error term. The second is that the number of strata, defined by values of the regressors not involved in the subvector test, is small compared to the sample size. The latter implies that the vector of nuisance regressors is discrete. Simulations and empirical illustrations suggest that the test has good power in practice if, indeed, the number of strata is small compared to the sample size.

研究动机与目标

• 提出一种针对线性回归中子向量推断的置换检验，该检验在给定无关变量下回归变量与误差项条件独立时为精确检验。
• 将置换检验的有效性从完整参数推断扩展至子向量推断，解决应用计量经济学中的一个关键局限。
• 在弱于均值独立的外生性条件下确保渐近有效性与功效，尤其在存在异方差性时。
• 提供一种实用的检验方法，当分层数（无关回归变量的取值种类数）相对于样本量较小时，能保持正确的大小和良好的功效。
• 为离散或低维无关回归变量的情境下，提供一种可行的替代方案，以替代稳健Wald检验和偏相关置换检验。

提出的方法

• SR检验根据无关回归变量Z的取值将数据划分为若干分层，假设Z为离散且取值种类较少。
• 在每一层内，对感兴趣子向量（X）的残差进行置换，同时固定无关回归变量（Z），以保持条件结构。
• 利用置换数据下的异方差稳健Wald统计量，通过置换中统计量的实证分布构造p值。
• 理论有效性通过大分层下的置换中心极限定理和小分层下的三角阵列CLT建立，同时引入了新型的置换版本Marcinkiewicz-Zygmund不等式。
• 针对连续Z，提出SR检验的近似版本，通过将Zγ̂离散化实现，其中γ̂为无关系数的OLS估计。
• 该方法依赖于条件独立性假设E[u|X,Z] = E[u|Z]，该假设弱于均值独立但强于不相关性，以确保渐近有效性。

实验结果

研究问题

• RQ1 能否设计一种针对线性模型中子向量推断的置换检验，使其在条件独立下为精确检验，并在更弱的外生性条件下渐近有效？
• RQ2 当分层数（无关回归变量的取值种类数）相对于样本量较小时，所提出的SR检验是否能保持正确的大小和功效？
• RQ3 在异方差性和依赖性条件下，SR检验与标准稳健Wald检验和偏相关置换检验相比，在大小和功效方面表现如何？
• RQ4 当无关回归变量为连续变量但通过拟合值离散化时，近似SR检验的性能如何？
• RQ5 在有限样本中，SR检验在何种条件下优于现有方法，特别是在其他检验功效不足时？

主要发现

• 当X与u在给定Z的条件下条件独立时，SR检验为精确有效，即使X与Z相关，因此适用于许多实际场景。
• 在分层数S相对于样本量n较小的条件下，SR检验在弱外生性（X与u在给定Z下不相关）下渐近为正确水平且具有一致性。
• 模拟结果表明，在异方差设定下，SR检验的大小更接近名义水平，优于稳健Wald检验（如HC3），尤其当S/n较小时。
• 在其他检验功效不足的数据生成过程中，SR检验在小样本至中等样本中表现出更高的功效优势。
• 基于Zγ̂离散化的近似SR检验存在一定程度的大小扭曲，但在某些情境下仍优于偏相关置换检验和标准稳健检验。
• 对美国交通事故死亡率数据和班级规模效应的实证应用表明，SR检验的置信区间比部分竞争方法更窄，且对异方差性具有鲁棒性。