[论文解读] High-dimensional instrumental variables regression and confidence sets

Éric Gautier, Christiern Rose|arXiv (Cornell University)|May 12, 2011

Statistical Methods and Inference参考文献 57被引用 128

一句话总结

本文提出了自校准工具变量（STIV）估计量，用于具有大量内生回归变量的高维线性模型，通过凸优化实现识别稳健推断。该方法通过线性规划推导置信集，实现稀疏自适应推断，并在弱工具变量或大量工具变量条件下仍保持有限样本有效性，其在EASI需求系统中的应用表明，一阶模型存在较大的近似误差。

ABSTRACT

This article considers inference in linear instrumental variables models with many regressors, all of which could be endogenous. We propose the STIV estimator. Identification robust confidence sets are derived by solving linear programs. We present results on rates of convergence, variable selection, confidence sets which adapt to the sparsity, and analyze confidence bands for vectors of linear functions using bias correction. We also provide solutions to some instruments being endogenous. The application is to the EASI demand system.

研究动机与目标

• 开发一种在所有回归变量可能均为内生的高维线性工具变量模型中进行推断的计算可行方法。
• 构建对弱工具变量或大量工具变量具有鲁棒性且在有限样本中有效的置信集，即使在 $ d_X \gg n $ 的情况下亦成立。
• 通过将STIV与数据驱动的偏差校正及变量选择相结合，实现稀疏自适应推断。
• 通过凸松弛化与枢轴推断，解决高维设定下一小部分工具变量为内生时的挑战。
• 将该框架应用于EASI需求系统，表明二阶近似显著降低了首阶近似误差。

提出的方法

• 提出STIV估计量，一种自校准方法，联合估计标准误与调参参数，确保枢轴推断。
• 利用来自矩条件的 $ \ell^\infty $-范数统计量，通过线性规划构建识别稳健的置信集。
• 采用凸松弛化（线性或锥规划）替代基于网格的检验，实现对高维 $ d_X $ 的可扩展性。
• 对 $ \beta $ 的线性函数的置信带实施偏差校正，通过联合估计误差方差实现数据驱动的调参。
• 不对简化形式方程施加稀疏结构，从而在建模回归变量与工具变量联合分布时保持灵活性。
• 提出一个可容纳参数约束（如希克斯矩阵的对称性）、已知回归变量相关性（如价格与二次支出）以及方程组中近似误差的系统性处理框架。

实验结果

研究问题

• RQ1 我们能否为高维IV模型构建对弱工具变量或大量工具变量具有鲁棒性且在有限样本中有效的置信集？
• RQ2 当真实 $ \beta $ 近似稀疏但 $ d_X \gg n $ 时，如何实现稀疏自适应推断？
• RQ3 在所有回归变量可能均为内生的高维IV模型中，是否存在一种计算上可行的推断方法？
• RQ4 在数据丰富、高维环境下，当仅有少数工具变量为内生时，应如何处理？
• RQ5 通过使用高阶近似与高维IV方法，能否提高需求系统估计的准确性？

主要发现

• STIV估计量的误差界与 $ \beta $ 的稀疏性成比例，即使在 $ d_X \gg n $ 情况下也能实现有效推断。
• 通过线性规划推导的置信集在可识别参数及回归变量与工具变量间无限制依赖分布下具有统一有效性。
• 该方法确保有限样本有效性与识别鲁棒性，由于标准误与调参参数的联合估计，置信集具有枢轴性。
• 对 $ \beta $ 的线性函数进行偏差校正的置信带在弱正则条件下实现统一覆盖，收敛速率自适应于稀疏性。
• 在EASI需求系统应用中，首阶近似误差较大，而包含数千个内生回归变量的二阶近似显著改善了拟合效果。
• 该框架可容纳参数约束（如对称性）、已知回归变量相关性（如价格与二次支出），并以系统性方式处理近似误差。