[论文解读] High Dimensional Linear GMM

Mehmet Caner, Anders Kock|arXiv (Cornell University)|Nov 21, 2018

Spatial and Panel Data Analysis参考文献 18被引用 8

一句话总结

本文提出了一种去稀疏化的GMM估计量，适用于高维线性模型中内生回归变量数量超过样本量的情形，可在条件异方差条件下实现一致有效的推断，且无需对工具变量施加稀疏性假设或要求数据服从次高斯分布。该方法通过去偏化两步Lasso-GMM估计量，实现渐近正态推断，确保在高维参数空间中的一致有效性。

ABSTRACT

This paper proposes a desparsified GMM estimator for estimating high-dimensional regression models allowing for, but not requiring, many more endogenous regressors than observations. We provide finite sample upper bounds on the estimation error of our estimator and show how asymptotically uniformly valid inference can be conducted in the presence of conditionally heteroskedastic error terms. We do not require the projection of the endogenous variables onto the linear span of the instruments to be sparse; that is we do not impose the instruments to be sparse for our inferential procedure to be asymptotically valid. Furthermore, the variables of the model are not required to be sub-gaussian and we also explain how our results carry over to the classic linear dynamic panel data model. Simulations show that our estimator has a low mean square error and does well in terms of size and power of the tests constructed based on the estimator.

研究动机与目标

• 开发一种高维GMM估计量，使其在内生回归变量数量超过样本量时仍保持有效性。
• 在存在条件异方差误差的情况下，实现一致有效的推断，且无需对工具变量施加稀疏性要求。
• 放宽高维IV文献中常见的次高斯数据假设，利用Chernozhukov等人（2017）提出的浓度不等式。
• 通过一阶差分方法将该框架扩展至动态面板数据模型。
• 构建在高维参数空间中一致有效的置信区间与假设检验。

提出的方法

• 通过使用从奇异样本协方差矩阵的逆矩阵中导出的去偏矩阵，对初始基于Lasso的GMM估计量进行去偏处理，提出一种去稀疏化的两步Lasso-GMM估计量。
• 采用双重去偏机制以校正高维设定下的估计偏差，确保估计量的渐近正态性。
• 利用Chernozhukov等人（2017）提出的浓度不等式处理非次高斯误差分布，避免强矩条件。
• 通过基于去偏估计量的稳健异方差-稳健型异方差估计量，估计估计量的渐近方差，构建一致置信区间。
• 在GMM框架中实施数据驱动的权重矩阵，使其能够自适应异方差性与高维设计矩阵。
• 在弱正则性条件下（包括结构参数的弱稀疏性假设）推导出估计误差的有限样本上界，并建立渐近正态性。

实验结果

研究问题

• RQ1 当内生回归变量数量超过样本量时，是否可以在高维线性GMM模型中实现一致有效的推断？
• RQ2 所提出的估计量在条件异方差条件下是否仍保持渐近正态性，且无需依赖次高斯或椭球形数据？
• RQ3 是否可以在不对工具变量施加稀疏性要求的情况下，保持推断的一致有效性，即使使用大量工具变量？
• RQ4 在经过一阶差分处理后，该估计量在动态面板数据模型中的表现如何？
• RQ5 该方法是否能构建在广泛类别的高维模型中一致有效的置信区间，且无需调参？

主要发现

• 所提出的去稀疏化GMM估计量对模型中所有系数均实现渐近一致正态性，即使内生回归变量数量超过样本量。
• 该估计量提供了一致有效的置信区间与假设检验，其覆盖概率在参数空间中一致收敛至名义水平。
• 推导出估计误差的有限样本上界，表明其在高维设定下仍具有一致性能。
• 该方法无需工具变量稀疏或数据服从次高斯分布，从而扩大了在真实经济数据中的适用范围。
• 模拟结果表明，基于该估计量的检验具有较低的均方误差，且在大小与功效方面表现良好。
• 理论框架可扩展至一阶差分后的动态面板数据模型，且在相同条件下保持一致推断的有效性。